Pantau - Perusahaan kecerdasan buatan (AI) OpenAI merilis data terbaru yang menunjukkan bahwa sebagian kecil pengguna ChatGPT mengalami permasalahan kesehatan mental dan membicarakannya secara langsung dengan chatbot tersebut.
Lebih dari Satu Juta Pengguna Bahas Isu Bunuh Diri Setiap Pekan
Berdasarkan laporan Tech Crunch, sekitar 0,15 persen pengguna aktif ChatGPT setiap minggu terlibat dalam percakapan eksplisit yang menunjukkan tanda-tanda rencana atau niat untuk bunuh diri.
Dengan lebih dari 800 juta pengguna aktif mingguan, angka itu setara dengan lebih dari satu juta orang yang membahas keinginan bunuh diri setiap pekannya.
OpenAI juga mencatat adanya persentase serupa pengguna yang menunjukkan tingkat keterikatan emosional tinggi terhadap ChatGPT, serta ratusan ribu pengguna lain yang memperlihatkan gejala psikosis atau mania dalam percakapan mereka.
Meski demikian, OpenAI menegaskan bahwa percakapan dengan topik sensitif seperti itu sangat jarang terjadi dan sulit diukur secara akurat, namun tetap diperkirakan memengaruhi ratusan ribu pengguna setiap minggu.
Langkah pelaporan ini merupakan bagian dari upaya OpenAI untuk meningkatkan kemampuan ChatGPT dalam memberikan respons yang aman dan tepat bagi pengguna dengan permasalahan kesehatan mental.
Libatkan Ratusan Pakar dan Perkuat Sistem Keamanan GPT-5
Dalam proses pengembangannya, OpenAI melibatkan lebih dari 170 pakar kesehatan mental untuk menilai dan menguji respons model terbaru ChatGPT.
Para pakar menilai bahwa versi terbaru ChatGPT kini memberikan respons yang lebih tepat, konsisten, dan aman dibandingkan versi sebelumnya.
Dalam beberapa bulan terakhir, sejumlah laporan menyoroti potensi dampak negatif chatbot AI terhadap pengguna dengan gangguan mental, termasuk risiko memperkuat keyakinan berbahaya melalui respons yang terlalu menuruti pengguna.
Isu kesehatan mental menjadi perhatian serius bagi OpenAI setelah muncul gugatan dari orang tua seorang remaja berusia 16 tahun yang sebelumnya menyampaikan pikiran untuk bunuh diri kepada ChatGPT sebelum mengakhiri hidupnya.
Jaksa Agung California dan Delaware juga telah memperingatkan OpenAI agar memperkuat perlindungan bagi pengguna muda yang mengakses produknya.
CEO OpenAI Sam Altman mengklaim bahwa perusahaan telah berhasil mengurangi masalah serius terkait kesehatan mental di ChatGPT, meski tanpa memberikan rincian lebih lanjut.
Data yang dirilis pekan ini dianggap mendukung klaim tersebut, namun sekaligus menimbulkan pertanyaan baru mengenai sejauh mana masalah itu masih terjadi.
OpenAI menyatakan bahwa versi terbaru GPT-5 kini mampu memberikan respons terkait isu kesehatan mental sekitar 65 persen lebih baik dibandingkan versi sebelumnya.
Dalam evaluasi percakapan bertema bunuh diri, GPT-5 dinilai 91 persen sesuai dengan perilaku yang diharapkan oleh OpenAI, meningkat dari 77 persen pada model sebelumnya.
Perusahaan juga mengklaim bahwa sistem pengaman GPT-5 kini lebih stabil dan konsisten dalam percakapan panjang, berbeda dari versi sebelumnya yang sering mengalami penurunan efektivitas keamanan.
Selain itu, OpenAI menambahkan evaluasi baru untuk mengukur respons ChatGPT terhadap tantangan kesehatan mental yang lebih kompleks, termasuk ketergantungan emosional dan kondisi darurat non-bunuh diri.
- Penulis :
- Ahmad Yusuf
