OpenAI Buka Data Pengguna ChatGPT yang Tunjukkan Tanda Psikosis dan Pikiran Bunuh Diri

MERAHPUTIH.COM — OPENAI merilis perkiraan terbaru mengenai jumlah pengguna ChatGPT yang menunjukkan tanda-tanda kemungkinan darurat kesehatan mental, termasuk mania, psikosis, atau pikiran untuk bunuh diri. Perusahaan menyebut sekitar 0,07 persen pengguna ChatGPT yang aktif dalam satu minggu menunjukkan tanda-tanda tersebut.

OpenAI menegaskan chatbot kecerdasan buatan (AI) miliknya, ChatGPT, telah dirancang mengenali dan menanggapi percakapan sensitif seperti ini. Meskipun OpenAI menilai kasus tersebut ‘sangat jarang’, sejumlah pengamat menilai angka sekecil itu tetap signifikan, mengingat klaim CEO of OpenAI Sam Altman yang menyebut ChatGPT baru-baru ini mencapai 800 juta pengguna aktif mingguan.

Sebagai tanggapan terhadap meningkatnya pengawasan publik, OpenAI mengatakan pihaknya telah membentuk jaringan ahli kesehatan mental global untuk memberikan nasihat dan bimbingan. Jaringan tersebut terdiri dari lebih dari 170 psikiater, psikolog, dan dokter umum yang telah berpraktik di 60 negara. Mereka membantu merancang respons ChatGPT yang mendorong pengguna untuk mencari bantuan profesional di dunia nyata.

Namun, sejumlah pakar kesehatan mental mengungkapkan keprihatinan mereka atas data yang dipublikasikan perusahaan itu.

“Walaupun 0,07 persen terdengar kecil, pada skala ratusan juta pengguna, jumlah itu sebenarnya bisa berarti angka yang cukup besar,” ujar Dr Jason Nagata, profesor di University of California, San Francisco, yang meneliti penggunaan teknologi di kalangan dewasa muda, dikutip BBC.

Nagata mengatakan AI dapat memperluas akses terhadap dukungan kesehatan mental. “Namun, kita juga harus sadar akan keterbatasannya,” tambah Nagata.

Baca juga:

ChatGPT bakal Izinkan Konten Erotis untuk Pengguna Dewasa

OpenAI juga memperkirakan 0,15 persen pengguna ChatGPT terlibat dalam percakapan yang mengandung indikasi eksplisit adanya rencana atau niat bunuh diri. Perusahaan menyebut pembaruan terbaru pada chatbot mereka dirancang untuk menanggapi tanda-tanda delusi atau mania dengan aman dan empatik serta mendeteksi sinyal tidak langsung yang mungkin menunjukkan risiko bunuh diri atau melukai diri sendiri.

Selain itu, ChatGPT kini juga dapat mengalihkan percakapan sensitif ke model yang lebih aman, dengan membuka jendela baru untuk menangani kasus tersebut.

Perbaikan di Tengah Kasus Hukum

Dalam menanggapi kritik dari media, OpenAI mengakui, meskipun persentasenya kecil, jumlah pengguna yang terdampak tetap bermakna. Mereka juga menegaskan komitmen untuk terus melakukan perbaikan. Langkah itu diambil di tengah peningkatan gugatan hukum terhadap OpenAI terkait dengan interaksi ChatGPT dan pengguna.

Salah satu kasus paling menonjol yakni gugatan dari pasangan asal California yang menuduh ChatGPT berperan dalam kematian anak remaja mereka, Adam Raine, 16. Raine ditemukan bunuh diri pada April lalu. Gugatan itu menjadi kasus hukum pertama yang menuduh OpenAI atas kematian yang disebabkan produk AI.

Dalam kasus lain di Greenwich, Connecticut, tersangka dalam peristiwa pembunuhan-bunuh diri diketahui sempat mengunggah percakapan dengan ChatGPT beberapa jam sebelum kejadian. Percakapan itu diduga memperkuat delusi pelaku.

“Semakin banyak pengguna yang mengalami AI psychosis, karena chatbot menciptakan ilusi realitas,” ujar Profesor Robin Feldman, Direktur AI Law & Innovation Institute di University of California Law.

Ia mengatakan OpenAI patut diapresiasi karena berbagi data dan berupaya memperbaiki masalah ini, tapi peringatan di layar saja tidak cukup. “Seseorang yang sedang dalam kondisi mental rapuh mungkin tidak mampu memahami atau mengikuti peringatan tersebut,” imbuhnya Feldman.(dwi)

Baca juga:

Jepang Peringatkan OpenAI: Jangan Langgar Hak Cipta Anime dan Manga