Penggunaan akal imitasi (AI) yang tidak teliti dalam militer Amerika Serikat nyaris memicu perang dengan China.
Sebuah laporan intelijen palsu yang dibuat dengan bantuan AI hampir membuat militer AS mencegat kapal China di Timur Tengah karena diduga membawa komponen senjata nuklir.
Insiden itu terjadi pada musim semi tahun ini, saat AS tengah berperang dengan Iran.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Menurut empat sumber yang mengetahui kejadian tersebut, militer AS sempat merencanakan operasi untuk mencegat kapal China setelah menerima laporan intelijen yang mencurigakan.
Dua sumber menyebut personel militer AS bersenjata bahkan telah bersiap menaiki kapal. Pesawat militer juga sudah berada di udara untuk mendukung operasi tersebut.
Namun, menjelang pelaksanaan operasi, sejumlah pejabat memeriksa kembali laporan itu. Mereka menemukan bahwa seorang analis Komando Operasi Khusus AS menyusun laporan tersebut dengan bantuan AI.
Chatbot yang digunakan analis itu ternyata salah mengidentifikasi material yang diangkut kapal China. CNN tidak mengetahui jenis muatan sebenarnya.
Salah satu sumber menyebut laporan tersebut "sepenuhnya salah" dan "hampir memicu perang". Pasalnya, tindakan militer AS terhadap kapal China berisiko memicu konflik bersenjata antara kedua negara.
Insiden ini menyoroti bahaya penggunaan AI dalam pengambilan keputusan militer, terutama saat perang berlangsung. Informasi yang keliru berpotensi memicu kesalahan perhitungan yang berakibat fatal.
Dalam kasus tersebut, analisis menggunakan chatbot untuk memeriksa sejumlah laporan intelijen tentang manifes kapal dari Komando Operasi Khusus AS Pasifik di Hawaii. Chatbot itu menggabungkan informasi dari sumber terbuka dan intelijen rahasia pemerintah AS, lalu menghasilkan kesimpulan yang keliru.
Analis kemudian kembali menggunakan AI untuk menyusun temuan tersebut menjadi laporan intelijen resmi. Laporan itu selanjutnya disebarkan kepada pihak militer.
Menurut salah sumber sumber, kejadian serupa bukan hal baru. Fenomena "halusinasi" AI, ketika sistem menghasilkan informasi yang salah seolah-olah benar, juga ditemukan dalam penggunaan AI di komunitas intelijen AS.
Di sisi lain, militer dan intelijen AS, terus mempercepat penggunaan AI untuk berbagai kebutuhan, mulai dari analisis intelijen, penentuan target serangan, hingga pengelolaan anggaran, logistik, dan rantai pasokan.
Pada Januari, Menteri Pertahanan AS, Pete Hegseth, meluncurkan strategi percepatan AI untuk memperluas penggunaan teknologi tersebut di lingkungan militer.
Hegseth mengatakan pemerintah AS akan mendorong eksperimen, mengurangi hambatan birokrasi, dan meningkatkan investasi agar AS tetap unggul dalam pengembangan AI militer.
"Kami akan mendorong eksperimen, menghilangkan hambatan birokrasi, memfokuskan investasi kami, dan menunjukkan pendekatan eksekusi yang dibutuhkan untuk memastikan kami memimpin dalam AI militer," kata Hegseth.
Namun, penerapan teknologi ini masih menghadapi sejumlah persoalan. Berbagai lembaga militer menggunakan sistem AI yang berbeda dengan standar keamanan.
AS juga belum memiliki standar terpadu untuk memverifikasi informasi yang dihasilkan AI.
Selama berminggu-minggu, para pembuat kebijakan di Washington telah memperdebatkan AI setelah mendapat peringatan dari para insinyur Silicon Valley dan CEO perusahaan teknologi. Mereka menyampaikan bahwa AI dapat melepaskan diri dari batasan manusia yang berpotensi mengakhiri peradaban.
Seorang sumber yang memahami kebijakan militer AS juga memperingatkan bahwa penggunaan AI untuk menentukan target serangan terus meningkat, sementara pedoman mengenai pengawasan manusia masih terbatas.
"Penggunaan AI dalam penargetan jelas merupakan sesuatu yang sedang meningkat dan tidak ada panduan nyata tentang bagaimana keterlibatan manusia dalam proses tersebut dapat mencegah korban sipil atau penembakan sesama pasukan," katanya.
Insiden kapal China tersebut menunjukkan bahwa risiko AI bukan hanya soal teknologi yang sulit dikendalikan. Keputusan manusia yang bergantung pada informasi keliru dari AI juga dapat memicu konsekuensi serius.
Seorang sumber menggambarkan bahaya tersebut dengan mengatakan, "AI memungkinkan Anda menemukan ide buruk lebih cepat."
(mge/dna)