Negara Tetangga RI Hingga Eropa Investigasi X, Ini Penyebabnya
Media sosial X tengah diinvestigasi oleh otoritas Eropa, India, dan Malaysia usai chat Grok AI membiarkan pengguna membuat dan membagikan konten seksual.
Media watchdog Inggris, Ofcom, mengatakan telah meminta informasi dari X terkait masalah Grok.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Pada Minggu (4/1), seorang anggota parlemen Brasil mengatakan di media sosial bahwa ia telah meminta jaksa agung federal dan otoritas perlindungan data negara tersebut untuk menangguhkan penggunaan Grok hingga penyelidikan selesai.
Penyelidikan ini terjadi setelah lonjakan global dalam beberapa minggu terakhir dalam penggunaan Grok untuk membuat dan berbagi gambar cabul tanpa persetujuan (NCII) yang dihasilkan dari foto atau video orang sungguhan sebagai respons terhadap perintah pengguna.
Gambar-gambar yang mengkhawatirkan tersebut telah tersebar luas di X.
Perusahaan Musk belakangan memperbarui fitur Grok Imagine yang memungkinkan generate gambar yang lebih mudah dari perintah berbasis teks di platform tersebut.
Para ahli keamanan siber dan kritikus teknologi mengecam penyebaran gambar dan klip eksploitatif di X. Namun, Musk malah tampak mengejek situasi tersebut dengan membagikan serangkaian gambar yang dihasilkan oleh Grok, termasuk satu gambar dirinya mengenakan bikini, disertai dengan emoji tertawa-menangis.
Dalam konferensi pers pada Senin (5/1), juru bicara Komisi Eropa Thomas Regnier mengatakan otoritas tersebut "sangat serius mendalami masalah ini" dan sangat sadar bahwa X dan Grok kini menawarkan "mode spicy" yang menampilkan konten seksual eksplisit dengan beberapa output yang dihasilkan menggunakan gambar anak-anak.
"Ini bukan 'spicy.' Ini ilegal. Ini mengerikan. Ini menjijikkan. Begitulah kami memandangnya, dan hal ini tidak punya tempat di Eropa," kata Regnier, dikutip dari CNBC.
Pada akhir pekan lalu, Kementerian Elektronik dan Teknologi Informasi India juga memerintahkan X untuk melakukan "peninjauan teknis, prosedural, dan tata kelola yang komprehensif" terhadap Grok. Perusahaan diberi waktu hingga 5 Januari untuk mematuhi perintah tersebut.
Di sisi lain, Komisi Komunikasi dan Multimedia Malaysia (MCMC) mengumumkan pada akhir pekan bahwa mereka sedang menyelidiki X dan akan memanggil perwakilan perusahaan.
"MCMC mendesak semua platform yang dapat diakses di Malaysia untuk menerapkan langkah-langkah pengamanan yang sesuai dengan undang-undang Malaysia dan standar keamanan online, terutama terkait fitur berbasis kecerdasan buatan (AI), chatbot, dan alat manipulasi gambar," kata MCMC dalam pernyataan tertulis.
Sementara itu, di Amerika Serikat (AS), Pusat Nasional untuk Eksploitasi Seksual (NCOSE) mendesak Departemen Kehakiman (DOJ) dan Komisi Perdagangan Federal (FTC) untuk menyelidiki masalah ini.
Dani Pinter, Kepala Hukum dan Direktur Pusat Hukum NCOSE, mengatakan bahwa tidak banyak preseden hukum yang relevan untuk masalah-masalah spesifik ini.
Namun, ia menjelaskan bahwa undang-undang federal melarang pembuatan dan penyebaran materi pelecehan seksual anak (CSAM), dan hal ini dapat diterapkan pada konten yang dibuat secara virtual "ketika menggambarkan anak yang dapat diidentifikasi, atau menggambarkan anak yang terlibat dalam perilaku seksual eksplisit."
Undang-undang tersebut termasuk Take It Down Act, yang didukung oleh Ibu Negara Melania Trump sebelum disahkan tahun lalu.
Juru bicara DOJ mengatakan pihaknya sangat serius menanggapi masalah pelecehan seksual anak yang dihasilkan oleh AI.
"Departemen Kehakiman sangat serius menanggapi materi pelecehan seksual anak yang dihasilkan oleh kecerdasan buatan (AI) dan akan menindak tegas setiap produsen atau pemilik materi tersebut. Kami terus mencari cara untuk mengoptimalkan penegakan hukum di bidang ini guna melindungi anak-anak dan mempertanggungjawabkan individu yang memanfaatkan teknologi untuk merugikan kelompok paling rentan," katanya dalam pernyataan tertulis kepada CNBC pada Senin (5/1).
FTC menolak berkomentar, sedangkan XAI tidak memberikan komentar selain balasan otomatis.
Perusahaan media sosial Musk mengeluarkan pernyataan publik pertamanya mengenai masalah tersebut pada Sabtu (3/1) dalam posting di akun resmi X Safety.
"Kami mengambil tindakan terhadap konten ilegal di X, termasuk Materi Penyalahgunaan Seksual Anak (CSAM), dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah setempat dan penegak hukum jika diperlukan," tulis perusahaan tersebut.
Keesokan harinya, seorang karyawan xAI bernama Ethan He menulis dalam sebuah posting di X bahwa Grok Imagine telah diperbarui, tetapi dia tidak menyebutkan perubahan apa pun terkait kemampuan untuk membuat gambar eksplisit yang berbahaya.
(lom/dmi)[Gambas:Video CNN]