Pakar Khawatir AI Bikin Kacau Pemilu di Negara-negara Asia Tenggara
Laporan terbaru dari perusahaan kecerdasan buatan (AI), Anthropic, memperkirakan bahwa teknologi AI dapat memicu kekacauan pemilu di negara-negara kawasan Asia Tenggara. Pasalnya, teknologi ini dapat dipakai untuk memproduksi berita palsu dan disinformasi secara masif di internet dan media sosial.
Laporan dari Anthropic pada bulan September mengungkap penggunaan Claude AI untuk menyebarkan pengaruh politik beberapa daerah pemilihan di Malaysia.
Melansir The Guardian, Kamis (1/10), AI telah digunakan untuk menciptakan platform manipulasi pemilu komersial dengan memanfaatkan sekitar 1.000 akun X, portal berita palsu bernama "Malaysia Pulse", serta serangkaian dokumen palsu.
Pelaku diduga menargetkan calon pemilih di negara tetangga Indonesia itu dengan memanfaatkan data sensus dan data pemilih di 222 daerah pemilihan parlemen Malaysia.
Berita yang diproduksi disebut mengeksploitasi isu politik dan sosial sensitif, termasuk yang bernuansa suku, agama, ras, dan antargolongan (SARA).
Bridget Welsh dari University of Nottingham Asia Research Institute Malaysia berpendapat bahwa insiden ini berpotensi menimbulkan polarisasi politik.
"Hal itu memicu polarisasi politik dan memperparah perpecahan. Fragmentasi itulah yang benar-benar mengkhawatirkan dari apa yang terjadi di Malaysia," kata Bridget.
Laporan dari Anthropic mencatat bahwa media-media palsu mengambil sumber berita dari media massa Malaysia dan meminta model AI menulis ulang beberapa kali sebelum menerbitkannya kembali dengan nama samaran.
Mereka juga mengambil berita dari media asing yang memiliki hubungan dengan negara Rusia dan China, termasuk TV BRICS, Xinhua, Sputnik/RIA, dan CGTN, tanpa mencantumkan sumbernya.
Dampak dari kasus ini pada akhirnya berhasil dihentikan setelah Anthropic turun tangan dan menghapus akun tersebut.
Meski demikian, peristiwa ini memicu kekhawatiran terkait pengaruh AI sebagai alat politik di masa depan, terutama Asia Tenggara yang sangat rentan terhadap berita palsu dan provokasi media.
Fakta bahwa masyarakat di wilayah ini menghabiskan cukup banyak waktu di media sosial menjadikan pengaruh AI dalam pemilu semakin mengkhawatirkan.
Peraih nobel dan jurnalis Filipina Maria Ressa menyebut wilayah Asia Tenggara telah lama dijadikan semacam tempat uji coba teknik-teknik propaganda dan manipulasi publik yang kemudian direplikasi di Barat.
Pemilu Malaysia akan diperkirakan akan diadakan pada akhir tahun 2027, sementara Filipina dan Kamboja akan mengadakan pemilu pada tahun 2028, dan Indonesia pada tahun 2029. Penggunaan AI sebagai alat kampanye telah terbukti berhasil di wilayah ini.
Ben Loh dari Monash University Malaysia juga menyebut AI mampu memicu ketegangan sosial, seperti yang terjadi pada kasus kebencian terhadap pengungsi Rohingya.
"Situasinya sudah sampai pada titik di mana orang-orang sudah memiliki kebencian yang mendalam dalam pikiran mereka, dan ketika mereka melihat konten seperti ini, meskipun dihasilkan oleh AI, itu akan semakin memperkuat apa yang mereka yakini," kata Loh.
Pemimpin perusahaan konsultan teknologi Anchor Change Katie Harbath menyebut kasus AI yang membantu penyebaran pengaruh politik ini sebagai contoh bagaimana AI mempermudah penyebaran informasi palsu.
"AI dapat mempercepat proses pembuatan lebih banyak konten yang lebih personal, lebih cepat, dan lebih murah," kata Harbath.
Dalam kasus ini, pelaku bisa saja datang dari pihak pemerintah, lembaga propaganda, atau perusahaan swasta yang membanjiri media dan dengan berita palsu agar informasi faktual mengabur dan mempersulit verifikasi.
Banjir berita palsu pada akhirnya juga akan memengaruhi model bahasa besar (LLM) atau sumber informasi yang digunakan AI, sehingga AI otomatis menerima dan mengutip informasi palsu tersebut.
"Jika terjadi kekeringan berita (yang faktual), atau berada di tempat yang sebagian besar medianya disponsori pemerintah, tidak perlu banyak uang untuk membanjiri zona tersebut (dengan berita palsu)," katanya.
(fta/dmi)