Jakarta, CNN Indonesia -- Sejumlah pekerja industri kecerdasan buatan (AI) mengungkap kekhawatiran mereka bahwa teknologi ini bisa memicu kepunahan umat manusia. Benarkah AI bisa membunuh manusia?
Huru-hara mengenai kemampuan AI yang makin canggih dan berpotensi membunuh manusia ini mencuat setelah karyawan Antrhopic bernama Jacob Coxon mengumumkan pengunduran dirinya dari perusahaan dalam sebuah cuitan di X, karena menganggap pekerjaannya terlalu berbahaya.
Merespons cuitan Jacob, Evan Hubinger, seorang karyawan Anthropic lainnya, juga memperkirakan bahwa peluang kepunahan manusia akibat AI dalam 10 tahun ke depan berada di atas 10 persen.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Sejumlah pakar kemudian memberikan tanggapan lainnya. Nate Soares, Presiden Marching Intelligence Research Institute (MIRI) mengatakan bahwa perkembangan AI di luar kendali benar-benar bisa membunuh manusia.
"Ini benar-benar tentang kematian seluruh orang di planet ini, seperti manusia terakhir yang menghembuskan napas terakhirnya," kata Nate, melansir CNN, Kamis (17/9).
"Orang-orang sering tidak percaya ketika hal ini diucapkan, tetapi saya memang berpikir itu adalah kemungkinan hasil yang paling besar," lanjut dia.
Tidak semua orang peraya bahwa skenario kiamat gara-gara AI ini, sebagian karena detail prediksinya sangat minim. Namun, bagaimana sebenarnya teknologi akal imitasi ini bisa membunuh manusia?
Sejumlah pakar mengungkap ada beberapa skenario bagaimana AI dapat membunuh umat manusia. Berikut rinciannya:
Lewat penyebaran virus mematikan?
Salah satu spekulasi di kalangan penyeru ancaman ini adalah bahwa sistem AI yang cukup kuat dapat menggunakan senjata biologis untuk melenyapkan manusia.
Thomas Larsen, peneliti di AI Futures Project dan mantan karyawan MIRI, mengatakan ada kemungkinan sistem AI 'supercerdas' dapat membujuk manusia untuk membantunya mengembangkan virus mematikan.
"Sudah ada banyak manusia yang berbicara dengan AI mereka tentang eksperimen apa yang harus mereka jalankan di laboratorium," kata Larsen.
"Sangat mudah bagi saya untuk membayangkan AI yang ada saat ini, jika ia jauh lebih cerdas, strategis, dan memang ingin melakukan ini, menipu manusia untuk membuat dan menyebarkannya," jelas dia menambahkan.
Kendati begitu, mengembangkan virus yang mampu memusnahkan manusia membutuhkan lebih dari sekadar meminta Large Language Model (LLM) merancang desain yang mematikan. Bahkan jika risetnya dilakukan dengan benar, proses pembuatan dan penyebarannya sangat rumit dan sensitif.
Eric Xing, profesor machine learning di Carneige Mellon University, membandingkan tantangan virologi jahat berbasis otmatisasi ini seperti merakit Lego tanpa petunjuk.
"Ini tidak seperti Anda melempar semua potongan, lalu semuanya otomatis terpasang membentuk model," kata Xing.
"Ada urutan, suhu, penataan, lingkungan, bagian mana yang harus pertama dirakit, mana berikutnya, dan jika satu potongan salah tempat, seluruhnya gagal. Kemungkinan besarnya adalah hal itu tidak akan berhasil, jika tidak, merancang obat tentu sudah sangat mudah," lanjut dia.
Dibasmi oleh robot?
Skenario lainnya adalah manusia dibunuh oleh robot yang ditenagai oleh akal imitasi. Soares melihat keinginan Elon Musk untuk membangun pasukan robot otonom yang dapat mereplikasi dirinya sendiri sebagai potensi titik lemah bagi kelangsungan hidup manusia.
"Setelah Anda menciptakan robot yang dapat membuat infrastruktur energi dan pabrik untuk memproduksi lebih banyak robot, dalam arti tertentu itu adalah bentuk kehidupan mekanis baru," kata dia.
"Pada titik tertentu Anda secara diam-diam melewati batas yang tidak bisa kembali lagi. Di mana jika manusia mengatakan ingin mematikan AI, AI dapat berkata, 'Sebenarnya kami memutuskan untuk mematikan manusia.' Anda harus berhenti sebelum itu terjadi," lanjut dia.
Namun sejauh ini, Musk berulang kali gagal menghadirkan robot Optimus yang dijanjikannya ke pasar konsumen sesuai jadwal, jangankan untuk menyebarkan jutaan robot atau membuat mereka merakit satu sama lain dalam rantai manufaktur mandiri.
Bisakah AI Kerahkan Bom Nuklir untuk Lenyapkan Umat Manusia?
Pekerja AI khawatir teknologi ini bisa memicu kepunahan manusia. Beberapa skenario, termasuk virus mematikan dan robot otonom, diungkapkan oleh para pakar. (Foto: istockphoto/Wasan Longthara)
Bom nuklir juga masuk jadi salah satu skenario kepunahan manusia. Pasalnya, senjata nuklir telah telah ada selama dari 80 tahun dan secara umum dipahami dapat memusnahkan seluruh kehidupan manusia. Namun, bisakah AI menguasai senjata nuklir?
Heidy Khlaaf, Kepala Ilmuwan AI di AI Now Institute sekaligus mantan insinyur keselamatan OpenAI, menunjukkan bahwa fasilitas nuklir terisolasi dari jaringan internet publik, yang membatasi cara agen AI untuk mengakses kendalinya.
"Sistem-sistem ini dibangun dengan standar rekayasa yang sangat berbeda, ketat, dan teratur yang sering kali membutuhkan perlindungan fisik," kata Khlaaf.
Sementara itu, menurut Herbert Lin, peneliti senior di Stanford University, menilai bahwa sangat sedikit pakar yang benar-benar khawatir tentang senjata nuklir bakal disalahgunakan oleh AI.
Menurutnya, meski AI dapat memperbesar risiko terkait ancaman eksistensial seperti perang nuklir, risiko material sebenarnya tetap ada pada senjata itu, bukan pada skenario masa depan yang dibayangkan.
Namun demikian, menurut Soares, detail mengenai bagaimana kepunahan berbasis komputer itu bekerja bukanlah poin utamanya. Jika, atau ketika, sebuah AI mencapai recursive self-improvement, mereka berargumen bahwa sistem tersebut akan menciptakan strategi dan metode di luar jangkauan imajinasi manusia.
"Kekhawatiran di sini bukan seperti bagaimana jika AI mengambil alih senjata nuklir kita. Kekhawatiran di sini adalah jenis AI yang tidak perlu mengambil senjata nuklir kita, jenis AI yang dapat memulai dan hampir bukan siapa-siapa dan berakhir dengan senjata nuklirnya sendiri atau bahkan teknologi yang lebih canggih," jelas Soares.
Kematian tanpa detail
Menurut Soares, entitas AI dengan kekuatan besar bahkan tidak perlu berbuat jahat secara sengaja untuk menghancurkan umat manusia.
"Jika Ai yang lepas kendali memiliki tujuan apa pun yang dapat dicapai lebih baik dengan menjalankan lebih banyak komputer, dan jika mereka tidak peduli pada kita serta tidak memiliki alasan untuk membangun habitat manusia yang aman, hasil yang secara otomatis terjadi adalah mereka akan mengubah dunia ke kondisi yang tidak bisa kita tinggali," katanya.
Xing mengatakan bahwa mengatasnamakan kekuatan kecerdasan buatan super yang tidak terduga adalah bentuk penyederhanaan ancaman yang sering digunakan para peneliti AI.
"Itu tidak masalah untuk percakapan santai atau debat, tetapi terkait kebijakan atau regulasi dan hukum, kita harus menetapkan bukti fisik, konsekuensi yang dapat diukur, dan bukti terukur yang memiliki pijakan kuat," jelas Xing.
Larsen mencoba memberikan beberapa detail pada skenario kiamat melalui dua laporan, "AI 2027" dan "AI 2040," yang memproyeksikan gambaran masa depan pengembangan AI di bawah kerangka kerja pengembangan dan regulasi yang berbeda.
Namun, bahkan skenario paling optimistis sekalipun, di mana ada kesepakatan global tentang cara pendekatan pengembangan AI dan manusia telah mulai mengonstruksi koloni di luar angkasa, tetap berakhir dengan pikiran mesin yang mengambil alih pada titik tertentu.
Ketika ditanya apakah ia memiliki keraguan tentang prediksinya bahwa jalur saat ini akan mengarah pada kecerdasan super, Larsen berkata, "Ini akan terjadi. Ini akan terjadi kecuali kita mengambil langkah sengaja untuk menghentikannya."
