Pemerintah AS Beri Peringatan, AI Bisa Bikin Manusia Punah

Laporan terbaru dari Departemen Luar Negeri Amerika Serikat mewanti-wanti kemungkinan teknologi kecerdasan buatan (AI) yang bisa membuat umat manusia punah. Laporan tersebut menggambarkan kekhawatiran mengenai risiko keamanan nasional akibat AI yang berkembang pesat.

Temuan ini berdasarkan wawancara dengan lebih dari 200 orang selama lebih dari satu tahun. Mereka yang diwawancarai di antaranya adalah eksekutif terkemuka dari perusahaan-perusahaan AI ternama, peneliti keamanan siber, ahli senjata pemusnah massal, dan pejabat keamanan nasional di dalam pemerintahan.

Laporan yang terbit minggu ini oleh Gladstone AI, dengan tegas menyatakan bahwa dalam kasus terburuk, sistem AI yang paling canggih dapat "menimbulkan ancaman tingkat kepunahan bagi umat manusia."

Seorang pejabat Departemen Luar Negeri AS mengonfirmasi bahwa mereka membuat laporan itu karena menilai AI selaras dengan tujuannya untuk melindungi kepentingan AS di dalam dan luar negeri. Namun, pejabat itu menekankan laporan tersebut tidak mewakili pandangan pemerintah AS.

"AI sudah menjadi teknologi yang transformatif secara ekonomi. Teknologi ini dapat memungkinkan kita untuk menyembuhkan penyakit, membuat penemuan ilmiah, dan mengatasi tantangan yang dulunya kita anggap tidak dapat diatasi," kata Jeremie Harris, CEO dan salah satu pendiri Gladstone AI, mengutip CNN, Selasa (12/3).

"Namun, hal ini juga dapat membawa risiko serius, termasuk risiko bencana, yang perlu kita waspadai. Dan semakin banyak bukti, termasuk penelitian empiris dan analisis yang dipublikasikan di konferensi AI terkemuka di dunia, menunjukkan bahwa di atas ambang batas kemampuan tertentu, AI berpotensi menjadi tidak terkendali," lanjut dia.

Juru bicara Gedung Putih Robyn Patterson mengatakan bahwa perintah eksekutif Presiden Joe Biden tentang AI adalah "tindakan paling signifikan yang pernah diambil oleh pemerintah mana pun di dunia untuk mewujudkan janji dan mengelola risiko kecerdasan buatan."

"Presiden dan Wakil Presiden akan terus bekerja sama dengan mitra internasional kami dan mendesak Kongres untuk meloloskan undang-undang bipartisan untuk mengelola risiko yang terkait dengan teknologi yang sedang berkembang ini," ujar Patterson.

Butuh intervensi mendesak

Para peneliti memperingatkan dua bahaya utama yang ditimbulkan oleh AI.

Pertama, Gladstone AI mengatakan, sistem AI yang paling canggih dapat dipersenjatai untuk membuat kerusakan yang berpotensi tak dapat diperbaiki.

Kedua, laporan tersebut mengatakan ada kekhawatiran di dalam laboratorium AI, suatu saat para pakar dapat "kehilangan kendali" atas sistem yang mereka kembangkan, dengan "konsekuensi yang berpotensi menghancurkan keamanan global."

"Kebangkitan AI dan AGI [kecerdasan umum buatan] memiliki potensi untuk mengacaukan keamanan global dengan cara yang mengingatkan kita pada pengenalan senjata nuklir," kata laporan itu, seraya menambahkan bahwa ada risiko "perlombaan senjata" AI, konflik, dan "kecelakaan fatal berskala WMD (weapon of mass destruction)."

Laporan Gladstone AI menyerukan langkah-langkah serius yang bertujuan untuk menghadapi ancaman ini, termasuk meluncurkan badan AI baru, memberlakukan perlindungan peraturan "darurat" dan membatasi seberapa besar daya komputer yang dapat digunakan untuk melatih model AI.

"Ada kebutuhan yang jelas dan mendesak bagi pemerintah AS untuk melakukan intervensi," tulis para penulis dalam laporan tersebut.

Masalah keamanan

Harris mengatakan "tingkat akses yang belum pernah terjadi sebelumnya" yang dimiliki timnya terhadap para pejabat di sektor publik dan swasta menghasilkan kesimpulan mengejutkan. Gladstone AI mengatakan mereka berbicara dengan tim teknis dan kepemimpinan dari OpenAI, Google DeepMind, Meta, dan Anthropic.

"Di balik layar, situasi keselamatan dan keamanan dalam AI tingkat lanjut tampaknya cukup tidak memadai dibandingkan dengan risiko keamanan nasional yang mungkin akan segera muncul dari AI," kata Harris.

Laporan Gladstone AI mengungkap tekanan persaingan mendorong perusahaan mempercepat pengembangan AI "dengan mengorbankan keselamatan dan keamanan," meningkatkan prospek bahwa sistem AI yang paling canggih dapat "dicuri" dan "dipersenjatai" untuk melawan Amerika Serikat.

Kesimpulan tersebut menambah daftar peringatan risiko eksistensial yang ditimbulkan oleh AI.

Ancaman Global 10 Tahun ke Depan (Foto: Basith Subastian/CNNIndonesia)

Kemampuan belajar seperti manusia di halaman berikutnya...