ChatGPT Bakal Minta KTP Pengguna, Apa Tujuannya?

OpenAI, perusahaan di balik chatbot kecerdasan buatan ChatGPT, akan mulai memberlakukan sistem verifikasi usia pengguna dengan meminta identitas resmi atau KTP. Sistem verifikasi usia ini nantinya akan mengidentifikasi pengguna di bawah 18 tahun.

Perusahaan menyatakan langkah ini diambil sebagai respons kasus bunuh diri remaja berusia 16 tahun usai berbulan-bulan mengobrol dengan chatbot AI tersebut.

"Open AI memprioritaskan keamanan dari privasi dan kebebasan untuk remaja," kata CEO OpenAI Sam Altman dalam sebuah postingan di blog resmi perusahaan, melansir The Guardian, Jumat (19/9).

Perusahaan mengakui bahwa cara ChatGPT merespons anak usia 15 tahun seharusnya berbeda dengan pengguna dewasa.

Altman mengatakan OpenAI berencana membuat sistem yang dapat mendeteksi usia pengguna berdasarkan aktivitas di ChatGPT. Jika pengguna terdeteksi berusia di bawah 18 tahun, chatbot ini akan menyesuaikan responsnya agar sesuai dengan kategori anak-anak.

"Kami menyadari bahwa ini merupakan pengorbanan privasi bagi orang dewasa, tetapi kami yakin ini merupakan hal yang layak," lanjut Altman.

Altman memastikan cara ChatGPT merespons akun yang teridentifikasi di bawah 18 tahun akan berubah. Konten-konten eksplisit dan seksual akan diblokir.

ChatGPT juga akan dilatih untuk tidak merayu jika diminta pengguna di bawah 18 tahun, atau terlibat dalam obrolan yang menjurus ke arah bunuh diri atau melukai diri sendiri, bahkan dalam konteks penulisan kreatif.

"Dan jika pengguna di bawah usia 18 tahun memiliki niat bunuh diri, kami akan berusaha menghubungi orang tua pengguna. Jika tidak berhasil, kami akan menghubungi pihak berwenang dalam kasus bahaya yang mendesak," jelas Altman.

"Ini adalah keputusan yang sulit, tetapi setelah berdiskusi dengan para ahli, inilah yang kami anggap terbaik dan ingin transparan mengenai niat kami," lanjut dia.

Pada Agustus lalu, OpenAI mengakui bahwa sistemnya gagal dan akan memasang batasan yang lebih ketat terhadap konten sensitif setelah keluarga Adam Raine, seorang remaja berusia 16 tahun dari California, menggugat perusahaan tersebut setelah kematiannya.

Adam sebelumnya diduga kuat memutuskan bunuh diri setelah kerap berinteraksi dengan chatbot AI milik OpenAI, ChatGPT. Orang tua Adam sudah melayangkan gugatan ke OpenAI.

Orang tua Adam meyakini ChatGPT ikut berkontribusi dalam keputusan yang diambil putranya. Salah satunya adalah dengan menyarankan metode bunuh diri dan mengusulkan menulis draf surat wasiat.

Dalam gugatan yang diajukan ke Pengadilan Tinggi California, orang tua Adam mengatakan bahwa dalam kurun waktu lebih dari enam bulan, chatbot tersebut menempatkan dirinya sebagai satu-satunya teman curhat Adam. Teknologi ini juga menggantikan hubungan nyata Adam dengan keluarga dan teman-temannya.