Kejahatan Seks Deepfake Hantui Remaja hingga Tentara Korea Selatan

Semakin banyak warga Korea Selatan, termasuk anak di bawah umur, menjadi korban kejahatan seks deepfake, salah satu tipe dari kecerdasan buatan (AI) yang digunakan untuk membuat foto, audio, video hoax yang cukup meyakinkan.

Hal itu diketahui setelah viral sejumlah chat rooms atau ruang obrolan di Telegram diduga membuat dan mendistribusikan materi pornografi deepfake yang memicu ketakutan dan kemarahan di Korea Selatan.

Lihat Juga : Orang Asia Timur Jarang Bau Ketiak dan Korea Paling Sedikit, Kenapa?

Kantor berita Yonhap pada Senin (26/8) memberitakan, banyak korban ruang obrolan itu masih di bawah umur, seperti siswa SMP, SMA, ada juga mahasiswa, guru, bahkan anggota militer.

Salah satu ruang obrolan yang berisikan pornografi deepfake itu memiliki lebih dari 133 ribu anggota. Nama chat rooms terbagi berdasarkan lebih dari 100 nama universitas yang berada di Korea Selatan.

Salah satu chat room viral ketika pelaku yang baru-baru ini menjadikan mahasiswa dan lulusan Universitas Inha, Incheon korban deepfake pornografi. Polisi sudah melakukan penyelidikan lebih lanjut atas kasus tersebut.

[Gambas:Video CNN]

"Sangat memprihatinkan bahwa video tersebut tidak hanya dibuat untuk siswa tetapi juga guru, dan menyebar di kalangan pemuda yang paham teknologi," kata Kim Bong-sik, kepala Badan Kepolisian Metropolitan Seoul.

Menurut Badan Kepolisian Nasional, 297 kasus kejahatan eksploitasi seksual deepfake di Korea Selatan dilaporkan dari Januari hingga Juli. Di antara 178 orang yang didakwa, 73,6 persen, atau 113 orang, diketahui adalah remaja.

Di Seoul, 10 remaja berusia 14 tahun atau lebih sudah ditangkap atas kejahatan deepfake dalam periode Januari hingga Juli 2024.

Temuan tersebut membuat dewan siswa dari beberapa sekolah di Seoul dan Provinsi Gyeonggi, termasuk SMA Desain Hongik, mengeluarkan peringatan tentang potensi risiko kejahatan seks deepfake.

"Saat ini, gambar deepfake yang menggunakan foto siswa Sekolah Menengah Atas Desain Hongik dan informasi pribadi mereka dibagikan di Telegram," bunyi peringatan itu.

Peringatan tersebut turut mendesak siswa untuk menghapus atau menghindari memposting foto diri mereka secara daring guna mencegah menjadi korban kejahatan deepfake.

Kejahatan itu juga membuat banyak perempuan, warga sipil lainnya, dilanda ketakutan hingga menghapus seluruh swafoto di media sosial mereka supaya tak menjadi korban deepfake.

Lanjut ke sebelah...

Korea Times memberitakan satu ruang obrolan di Telegram, baik yang berbayar dan bot gratis langsung mengubah gambar menjadi foto telanjang, berdasarkan penyelidikan polisi.

Ruang obrolan itu menawarkan dua gambar deepfake pertama secara gratis, kemudian beralih ke sistem berbayar yang mengenakan biaya US$0,49 atau sekitar Rp7.579,20 per foto dalam mata uang kripto.

Lihat Juga : Ahli Ungkap Cara Terhindar dari AI Pornografi seperti Taylor Swift

Hingga 21 Agustus, ruang obrolan tersebut telah diikuti hampir 227.000 pengguna daring.

Menurut data Badan Kepolisian Nasional yang dilaporkan ke kantor Rep. Cho Eun-hee dari Partai Demokrat Korea (DPK), jumlah kejahatan terkait deepfake meningkat dari 156 pada 2021 menjadi 160 pada 2022, dan 180 pada 2023.

Meskipun teknologi berkembang pesat, hukum dan sistem berjuang untuk mengimbangi dalam mencegah munculnya kegiatan kriminal.

Meskipun Undang-Undang AI diusulkan selama Majelis Nasional ke-21, undang-undang tersebut gagal disahkan dan dibuang sebelum mencapai ambang batas persetujuan.

[Gambas:Video CNN]

Profesor Kim Myung-joo dari Seoul Women's Universitu menilai hukum benar-benar harus ditegakkan di Korea Selatan sebagai bentuk keseriusan memberantas deepfake.

"Undang-Undang Hukuman Kekerasan Seksual tidak secara efektif meningkatkan kesadaran karena hukumannya, yang seringkali ringan bagi pelanggar pertama kali, tidak berfungsi sebagai pencegah yang kuat," kata Kim Myung-joo yang mendesak hukuman lebih berat untuk kejahatan deepfake.

Komisi Komunikasi Korea berencana untuk menanggapi video deepfake dengan tegas, meskipun mengidentifikasi distributor masih menjadi tantangan karena Telegram memiliki server di luar negeri.