Pakar Bongkar Ancaman Nyata AI, Sorot Pentingnya Regulasi

Pakar buka-bukaan soal ancaman nyata dari kemajuan teknologi kecerdasan buatan (AI). Simak penjelasannya.

CEO Stratigos Security Beau Woods menjelaskan ada sejumlah bahaya dan dampak manipulatif dari penggunaan AI. Misalnya, menurut Beau, AI lewat teknologi deepfake dapat memanipulasi gambar atau video sedemikian rupa, sehingga bisa terlihat seperti kenyataan.

"Kecerdasan buatan, khususnya AI generatif, model bahasa besar dan sejenisnya, dilatih di Internet yang luas. Dan itu termasuk kebebasan berekspresi masyarakat, yang mencakup hasil kreatif mereka, yang mencakup karya seni, gambar mereka, lagu-lagu mereka, sastra mereka," ungkap Beau dalam sebuah diskusi di @america, Jakarta, Rabu (29/5).

Beau menggarisbawahi penggunaan AI bisa berpengaruh kuat terhadap teknologi digital dan menghasilkan sesuatu yang manipulatif.

"Itu semua dimasukkan ke dalam model ini [AI] yang kemudian dapat menghasilkan sesuatu yang hampir identik tetapi mengabaikan artis aslinya," tambahnya.

Kepala Ekosistem Pendidikan Telkom Indonesia Sri Safitri juga mengungkap bahwa perkembangan AI yang kian modern membuat keadaan jadi menakutkan.

"Jika seseorang meng-Google Anda, dan kemudian seseorang dapat melacak riwayat Google Anda, itu akan sangat menakutkan, bukan? Karena jika diterjemahkan ke dalam bahasa Indonesia, itu akan sangat menakutkan," ujar Sri.

Sri juga menilai bahwa semua yang diunggah melalui media sosial secara tidak langsung diketahui beberapa perusahaan penyedia informasi.

"Jadi maksud saya kalau ada, apalagi di AI, kalau tidak ada regulasi yang menghalangi pelacakan, misalnya kalau saya pakai Chat GPT, misalnya, atau Gemini," ungkapnya.

"Jika kemudian orang melacak saya, maka mereka akan berkata, oh, dia mungkin teroris, bukan? Oleh karena itu perlu adanya regulasi," tambah Sri.

Sebelumnya, laporan terbaru dari Departemen Luar Negeri Amerika Serikat mewanti-wanti kemungkinan AI yang bisa membuat umat manusia punah. Laporan tersebut menggambarkan kekhawatiran mengenai risiko keamanan nasional akibat AI yang berkembang pesat.

Temuan ini berdasarkan wawancara dengan lebih dari 200 orang selama lebih dari satu tahun. Mereka yang diwawancarai di antaranya adalah eksekutif terkemuka dari perusahaan-perusahaan AI ternama, peneliti keamanan siber, ahli senjata pemusnah massal, dan pejabat keamanan nasional di dalam pemerintahan.

Laporan yang terbit minggu ini oleh Gladstone AI, dengan tegas menyatakan bahwa dalam kasus terburuk, sistem AI yang paling canggih dapat "menimbulkan ancaman tingkat kepunahan bagi umat manusia."

Seorang pejabat Departemen Luar Negeri AS mengonfirmasi bahwa mereka membuat laporan itu karena menilai AI selaras dengan tujuannya untuk melindungi kepentingan AS di dalam dan luar negeri. Namun, pejabat itu menekankan laporan tersebut tidak mewakili pandangan pemerintah AS.