Ilmuwan Peringatkan AI Bisa Picu Kepunahan Manusia
Sejumlah karyawan dan mantan staf Anthropic, perusahaan kecerdasan buatan (AI) di balik Claude, memberikan peringatan keras mengenai masa depan umat manusia di tengah perkembangan teknologi ini yang makin pesat. Mereka meyakini bahwa AI berpotensi menyebabkan kepunahan manusia.
Pernyataan itu dilontarkan oleh Jacob Coxon, mantan peneliti Anthropic dan OpenAI. Dalam sebuah unggahan di X, ia mengaku memilih mundur dari perusahaan teknologi itu karena merasa Anthropic dan OpenAI sedang mempertaruhkan nyawa manusia.
Ia mengungkap bahwa para pengembang AI sebenarnya sangat meyakini bahwa teknologi ini dapat memusnahkan umat manusia sebelum akhir dekade ini.
"Jangan remehkan kekuatan teknologi ini. Dalam waktu dekat, sistem ini akan melampaui kemampuan manusia. AI akan sanggup meretas apa saja, merevolusi berbagai bidang secara instan, serta menguasai kekuatan dan sumber daya yang nyata," tulis Jacob di X, Rabu (9/9), melansir CNBC.
Unggahan tersebut viral di platform X. Hingga Kamis (10/9), unggahan tersebut sudah dilihat 136,7 juta kali di X.
Cuitan ini juga kembali memicu perdebatan lama di Silicon Valley mengenai sejauh mana AI dapat dikembangkan dan dikendalikan secara aman. Saat Anthropic dan OpenAI gencar model AI yang makin canggih, banyak peneliti justru mendesak agar laju riset ini memperlambat temponya.
Pernyataan Jacob pada juga mendapat tanggapan kuat dari para peneliti industri yang mengkhawatirkan munculnya recursive self-improvement, sebuah kondisi ketika sistem AI mampu merancang dan mengembangkan generasi penerusnya sendiri tanpa campur tangan manusia.
Meski kemampuan ini belum terwujud, sejumlah perusahaan, termasuk Anthropic dan OpenAI, memperingatkan bahwa skenario tersebut dapat membuat manusia kehilangan kendali atas sistem yang ada.
"Kedua perusahaan tidak bertindak secara bertanggung jawab. Mereka berlomba-lomba menuju superintelligence yang bisa mengembangkan dirinya sendiri," kata Jacob.
Evan Hubinger, pimpinan tim penyelarasan di Anthropic, menguatkan pernyataan Jacob. Menurut dia, apa yang disampaikan Jacob benar, dan AI punya peluang sebesar 10 persen lebih untuk memusnahkan umat manusia.
"Kami memang sungguh-sungguh percaya bahwa AI dapat memusnahkan seluruh umat manusia! Secara pribadi, saya menilai kemungkinannya lebih dari 10 persen dalam sepuluh tahun ke depan," tulis Hubinger.
"Saya percaya Anthropic sudah berusaha semaksimal mungkin, tetapi kami belum memiliki rencana pasti untuk menyelesaikan masalah penyelarasan pada superintelligence, dan progres kami belum mengarah ke sana," lanjut dia.
Kekhawatiran tentang potensi AI yang dapat menyebabkan kepunahan manusia atau bencana skala besar bukanlah hal baru di kalangan peneliti.
Pada tahun 2023, sejumlah peneliti dan eksekutif AI terkemuka, termasuk CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei, menandatangani pernyataan bersama yang menegaskan bahwa menekan risiko kepunahan akibat AI harus menjadi prioritas global, setara dengan risiko seperti pandemi dan perang nuklir.
Di kalangan akademisi dan pakar, muncul pula istilah p(doom) sebagai tolok ukur untuk mengestimasi besarnya peluang terjadinya skenario terburuk akibat kemajuan AI.
(dmi/dmi)