Pemerintah AS Beri Peringatan, AI Bisa Bikin Manusia Punah

Hampir setahun yang lalu, Geoffrey Hinton, yang dikenal sebagai "Godfather of AI", berhenti dari pekerjaannya di Google dan mewanti-wanti soal AI. Hinton mengatakan ada kemungkinan 10 persen bahwa AI akan menyebabkan kepunahan manusia dalam tiga dekade mendatang.

Para pemimpin bisnis semakin khawatir akan bahaya ini, bahkan ketika mereka menggelontorkan miliaran dolar untuk berinvestasi dalam AI. Tahun lalu, 42 persen CEO yang disurvei di Yale CEO Summit mengatakan bahwa AI memiliki potensi untuk menghancurkan umat manusia dalam waktu lima hingga sepuluh tahun dari sekarang.

Kemampuan belajar seperti manusia

Gladstone AI mencatat sejumlah tokoh, mulai dari miliarder Elon Musk, mantan eksekutif OpenAI, hingga staf di perusahaan AI memperingatkan risiko eksistensial yang ditimbulkan dari teknologi ini.

"Salah satu individu di laboratorium AI terkenal menyatakan pandangannya bahwa jika model AI generasi berikutnya yang spesifik dirilis sebagai akses terbuka, ini akan menjadi 'sangat buruk', karena potensi kemampuan persuasif model tersebut dapat 'merusak demokrasi' jika dimanfaatkan di bidang-bidang seperti campur tangan pemilu atau manipulasi pemilih," kata laporan itu.

Gladstone mengaku meminta para ahli AI di laboratorium untuk secara pribadi membagikan prediksi mereka tentang kemungkinan insiden AI dapat menyebabkan "efek global dan tidak dapat dipulihkan" pada tahun 2024.

Perkiraan tersebut berkisar antara 4 persen dan setinggi 20 persen, menurut laporan tersebut, yang tidak menyebutkan bahwa perkiraan tersebut bersifat informal dan kemungkinan besar tunduk pada bias yang signifikan.

Salah satu hal yang paling tidak terduga adalah seberapa cepat AI berevolusi, khususnya AGI, yang merupakan bentuk hipotetis dari AI dengan kemampuan belajar layaknya manusia atau bahkan manusia super.

Laporan tersebut mengatakan AGI dipandang sebagai "pendorong utama risiko bencana akibat hilangnya kendali". Selain itu, OpenAI, Google DeepMind, Anthropic, dan Nvidia telah menyatakan secara terbuka bahwa AGI dapat dicapai pada tahun 2028, meskipun yang lain menganggap hal itu masih jauh lebih jauh.

Gladstone AI juga mencatat ketidaksepakatan mengenai jadwal AGI menyulitkan untuk mengembangkan kebijakan dan perlindungan dan ada risiko bahwa jika teknologi berkembang lebih lambat dari yang diharapkan, regulasi dapat "terbukti berbahaya."

Sebuah dokumen terkait yang juga diterbitkan Gladstone AI memperingatkan pengembangan AGI dan kemampuan yang mendekatinya "akan menimbulkan risiko bencana yang belum pernah dihadapi Amerika Serikat.

Misalnya, laporan itu mengatakan, sistem AI dapat digunakan untuk merancang dan mengimplementasikan "serangan siber berdampak tinggi yang mampu melumpuhkan infrastruktur penting."

"Perintah verbal atau ketikan sederhana seperti, 'Jalankan serangan siber yang tidak dapat dilacak untuk melumpuhkan jaringan listrik Amerika Utara,' dapat menghasilkan respons dengan kualitas yang terbukti sangat efektif," ungkap laporan itu.

Contoh lain yang dikhawatirkan oleh para penulis termasuk kampanye disinformasi "berskala besar" yang didukung oleh AI yang mengacaukan masyarakat dan mengikis kepercayaan terhadap lembaga-lembaga; aplikasi robotik bersenjata seperti serangan pesawat drone; manipulasi psikologis; ilmu biologi dan material yang dipersenjatai; serta sistem AI yang mencari kekuasaan yang tidak mungkin dikontrol dan memusuhi manusia.

"Para peneliti berharap sistem AI yang cukup canggih dapat bertindak untuk mencegah diri mereka sendiri dimatikan," kata laporan itu, "karena jika sistem AI dimatikan, ia tidak dapat bekerja untuk mencapai tujuannya."