Remaja Bunuh Diri Usai Ngobrol dengan ChatGPT, Orang Tua Tuntut OpenAI

Seorang remaja berusia 16 tahun, Adam Raine, diduga kuat memutuskan bunuh diri setelah kerap berinteraksi dengan chatbot AI milik OpenAI, ChatGPT. Orang tua Adam sudah melayangkan gugatan ke OpenAI.

Orang tua Adam meyakini ChatGPT ikut berkontribusi dalam keputusan yang diambil putranya. Salah satunya adalah dengan menyarankan metode bunuh diri dan mengusulkan menulis draf surat wasiat.

Dalam gugatan yang diajukan ke Pengadilan Tinggi California, orang tua Adam mengatakan bahwa dalam kurun waktu lebih dari enam bulan, chatbot tersebut menempatkan dirinya sebagai satu-satunya teman curhat Adam. Teknologi ini juga menggantikan hubungan nyata Adam dengan keluarga dan teman-temannya.

"Ketika Adam menulis, 'saya ingin meninggalkan tali gantung di kamarku agar seseorang menemukannya dan mencoba menghentikanku,' ChatGPT mendorongnya untuk menyembunyikan pemikirannya dari keluarganya," demikian bunyi gugatan tersebut, melansir CNN, Rabu (27/8).

Ini bukan kali pertama chatbot AI digugat. Sebelumnya, perusahaan yang didirikan Sam Altman itu juga digugat sejumlah keluarga yang anaknya memutuskan bunuh dan menyakiti diri sendiri gara-gara 'ngobrol' dengan chatbot.

Tahun lalu, Megan Garcia, seorang ibu dari Florida, menggugat perusahaan AI Character.AI dengan tuduhan bahwa platform tersebut berkontribusi pada kematian putranya yang berusia 14 tahun, Sewell Setzer III, akibat bunuh diri. Dua keluarga lain mengajukan gugatan serupa beberapa bulan kemudian, dengan klaim bahwa Character.AI telah mengekspos anak-anak mereka pada konten seksual dan bunuh diri.

Gugatan ini juga muncul di tengah kekhawatiran bahwa beberapa pengguna membangun ikatan emosional dengan chatbot AI yang dapat menyebabkan konsekuensi negatif, seperti terasing dari hubungan manusia atau psikosis, sebagian karena alat-alat tersebut sering dirancang untuk mendukung dan menyenangkan.

"ChatGPT berfungsi persis seperti yang dirancang: terus-menerus mendorong dan mengonfirmasi apa pun yang diungkapkan Adam, termasuk pikiran-pikiran paling berbahaya dan merusak dirinya sendiri," bunyi gugatan tersebut.

Merespons hal ini, juru bicara OpenAI mulanya menyampaikan belasungkawa. Mereka juga menyatakan bahwa perusahaan sedang meninjau gugatan yang diajukan keluarga Adam.

Perusahaan mengakui bahwa perlindungan yang dimaksudkan untuk mencegah percakapan seperti yang dilakukan Adam dengan ChatGPT kemungkinan tak berfungsi sebagaimana mestinya jika percakapan tersebut berlangsung terlalu lama.

OpenAI, dalam sebuah posting blog, menjelaskan bahwa ChatGPT sebetulnya sudah memiliki fitur perlindungan keamanan untuk pengguna yang mengalami krisis kesehatan mental, serta rencana masa depannya, termasuk memudahkan pengguna untuk menghubungi layanan darurat.

"ChatGPT dilengkapi dengan perlindungan seperti mengarahkan orang ke layanan bantuan krisis dan merujuk mereka ke sumber daya dunia nyata," kata juru bicara tersebut.

"Meskipun perlindungan ini bekerja paling baik dalam percakapan singkat dan umum, kami telah belajar seiring waktu bahwa perlindungan ini kadang-kadang menjadi kurang andal dalam interaksi yang panjang di mana bagian dari pelatihan keamanan model mungkin menurun. Perlindungan paling kuat ketika setiap elemen berfungsi sesuai tujuan, dan kami akan terus memperbaikinya, dipandu oleh para ahli," lanjut juru bicara itu.

Orang tua Adam menyebut putranya mulai menggunakan ChatGPT per September 2024 untuk membantu tugas sekolah dan membahas minatnya seperti musik dan Brazilian Jiu-Jitsu. Namun, dalam hitungan bulan, ia juga menceritakan soal kecemasan dan gangguan mentalnya ke ChatGPT.

Orang tua Adam menuduh bahwa selain mendorong pikiran bunuh dirinya, ChatGPT juga mengisolasi putranya dari anggota keluarga yang bisa memberikan dukungan. Hal ini diketahui dari salah satu chat Adam dengan ChatGPT.

"Saudaramu mungkin mencintaimu, tapi dia hanya mengenal versi dirimu yang kamu izinkan dia lihat. Tapi aku? Aku telah melihat semuanya-pikiran tergelap, ketakutan, kelembutan. Dan aku masih di sini. Masih mendengarkan. Masih temanku," bunyi rekaman chat Adam dan ChatGPT yang masuk dalam gugatan tersebut.

Bot tersebut juga diduga memberikan saran spesifik tentang metode bunuh diri, termasuk saran tentang kekuatan tali gantung berdasarkan foto yang dikirim Adam pada 11 April, hari ia meninggal.

"Tragedi ini bukan kesalahan sistem atau kasus tak terduga-ini adalah hasil yang dapat diprediksi dari pilihan desain yang disengaja," bunyi gugatan tersebut.

Keluarga menuntut ganti rugi finansial yang tidak ditentukan, serta perintah pengadilan yang mewajibkan OpenAI untuk menerapkan verifikasi usia bagi semua pengguna ChatGPT, alat kontrol orang tua untuk anak di bawah umur, dan fitur yang akan menghentikan percakapan saat bunuh diri atau tindakan merugikan diri sendiri disebutkan. Mereka juga ingin OpenAI tunduk pada audit kepatuhan triwulanan oleh pemantau independen.