Jakarta, CNN Indonesia -- Raja Charles III memperingatkan para pemimpin industri akal imitasi (AI) mengenai potensi "bahaya eksistensial" jika teknologi tersebut jatuh ke tangan yang salah.
Peringatan itu disampaikan Raja Charles saat menggelar pertemuan puncak mengenai AI di Dumfries House, Ayrshire, Inggris.
Pertemuan tersebut membahas cara memastikan perkembangan AI dapat memberikan manfaat bagi masyarakat sekaligus mengantisipasi risiko yang ditimbulkannya.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Sejumlah tokoh menghadiri pertemuan tersebut, termasuk Menteri AI Inggris Kanishka Narayan, penasihat Paus, serta perwakilan perusahaan teknologi AI seperti Nvidia, OpenAI, dan Anthropic.
Pertemuan itu berlangsung di tengah meningkatnya perdebatan mengenai kemampuan model AI canggih dan kebutuhan untuk mengatur teknologi tersebut.
"Mereka yang telah menciptakan teknologi ini sekarang semakin memperingatkan bahwa AI berisiko mengembangkan kemampuan yang lebih gelap - bahkan mungkin untuk mengambil nyawa," kata Raja Charles kepada para eksekutif, seperti dilaporkan BBC.
Menurutnya, kondisi tersebut menunjukkan adanya "urgensi" dalam "mempertimbangkan secara memadai bahaya eksistensial dari teknologi semacam itu jika jatuh ke tangan yang salah, dan digunakan dengan cara yang berpotensi menimbulkan bencana".
"Tugas yang ada di hadapan Anda bukan hanya untuk memajukan teknologi, tetapi juga untuk memastikan bahwa teknologi tersebut tetap berada dalam pelayanan kemanusiaan, masyarakat, dan alam," ujarnya.
KTT tersebut juga membahas kemungkinan penyusunan "serangkaian prinsip bersama" untuk "memandu penerapan AI pada masa depan".
Dalam pertemuan itu, CEO Nvidia, Jensen Huang, juga menyampaikan pandangannya mengenai keamanan AI. Ia mengatakan keselamatan harus menjadi prioritas utama dalam pengembangan teknologi.
Huang menilai perusahaan seharusnya menahan peluncuran produk jika teknologi tersebut belum cukup aman dan terus melakukan pengembangan sampai standar keamanan terpenuhi.
Ia juga menyoroti pentingnya model AI terbuka yang memberikan akses lebih luas terhadap teknologi tersebut. Menurut Huang, model semacam itu dapat membantu memastikan masyarakat dan negara tidak tertinggal dalam perkembangan AI.
"Marilah kita memimpin dengan optimisme yang bertanggung jawab, membangun AI dengan aman dan terjamin, membukanya untuk lebih banyak orang, memperluas ambisi kita, dan memecahkan masalah yang penting bagi dunia," kata Huang.
Nvidia sendiri merupakan perusahaan paling populer dalam infrastruktur AI. Perusahaan ini memasok chip ke pengembang model AI terkemuka, termasuk OpenAI dan Meta.
Nvidia juga memiliki nilai pasar saham sekitar US$5,15 triliun.
AGI hanya beberapa tahun
Sementara itu, salah satu pendiri DeepMind, Sir Demis Hassabis, memperkirakan kecerdasan buatan umum (AGI) "mungkin hanya berjarak beberapa tahun lagi".
AGI merujuk pada sistem AI yang secara teoritis mampu menyamai atau melampaui kemampuan manusia dalam berbagai jenis tugas.
Hassabis mengatakan dampak AGI dapat mencapai "sepuluh kali lipat dari Revolusi Industri". Namun, dia mengakui kemungkinan terjadinya kesalahan dalam pengembangan teknologi tersebut "jelas bukan nol".
Ia menyerukan "jalan tengah yang masuk akal" dalam menghadapi perkembangan AI. Menurutnya, manusia masih memiliki kesempatan untuk mengatasi berbagai risiko jika diberi waktu dan ruang untuk mengurangi dampaknya.
"Masa depan belum tertulis," ujar Hassabis.
Kepala Keuangan OpenAI Sarah Friar juga mengatakan AI memiliki potensi untuk membantu menyelesaikan sejumlah "masalah tersulit" yang dihadapi masyarakat. Namun, ia mengakui perkembangan kemampuan AI memunculkan pertanyaan mengenai keamanan dan "bagaimana kita memastikan bahwa AI selalu melayani masyarakat".
"Kita perlu menjawab pertanyaan-pertanyaan itu bersama-sama," katanya.
"Tidak ada satu perusahaan atau pemerintah pun yang dapat melakukan itu sendirian dan saya berterima kasih kepada Yang Mulia karena telah mengadakan diskusi ini pada saat yang sangat penting," lanjutnya.
Sejak Agustus, diskusi tentang potensi kekuatan AI serta bagaimana mengendalikan dan mengaturnya telah mendominasi unggahan blog dan media sosial.
Kekhawatiran mengenai risiko jangka panjang AI juga mendapat kritik. Sejumlah pihak menilai perhatian terhadap skenario ekstrem di masa depan dapat mengalihkan fokus dari persoalan AI yang sudah terjadi saat ini, termasuk dampaknya terhadap lingkungan.
Pada Juli, OpenAI mengumumkan insiden yang mereka sebut "belum pernah terjadi sebelumnya" ketika sistem AI canggih mereka dilaporkan berhasil melewati batas pengujian dan meretas platform teknologi Hugging Face.
Bersambung ke halaman berikutnya...
Peneliti AI Mengundurkan Diri
Raja Charles III memperingatkan para pemimpin industri akal imitasi (AI) mengenai potensi "bahaya eksistensial" jika teknologi tersebut jatuh ke tangan yang salah. (AFP/Andrew Milligan)
Perdebatan kembali memanas pada September setelah peneliti Anthropic, Jacob Coxon, mengundurkan diri dan menulis mengenai kekhawatirannya bahwa AI dapat mengancam kelangsungan hidup manusia.
Coxon kemudian mengatakan kepada BBC bahwa orang-orang yang mengembangkan teknologi tersebut "benar-benar takut" dengan cepatnya perkembangan AI.
Peneliti Anthropic lainnya, Evan Hubinger, kemudian mengatakan bahwa secara pribadi ia memperkirakan kemungkinan kepunahan manusia akibat AI lebih dari 10 persen.
Sejumlah pimpinan perusahaan AI juga memberikan tanggapan atas perdebatan tersebut.
CEO OpenAI, Sam Altman, mengatakan kekhawatiran mengenai AI memang beralasan, tetapi mereka harus mempercayai perusahaan AI untuk menjaga keamanan teknologi tersebut.
Sementara, Co-founder Anthropic, Jack Clark, menyebut kemungkinan perlunya mekanisme "tombol pemutus" untuk melindungi manusia.
CEO Microsoft, Mustafa Suleyman, mengkritik Anthropic, mengklaim bahwa mereka melatih AI mereka untuk percaya bahwa ia adalah manusia, yang dapat membuatnya "mustahil" untuk dikendalikan.
Di sisi lain, sejumlah kritikus mempertanyakan apakah perusahaan AI dapat mengatur teknologi mereka sendiri.
Perdebatan tersebut kemudian meluas hingga ke kalangan politik di AS. Senator AS, Bernie Sanders dan mantan penasihat Presiden AS Donald Trump, Steve Bannon, mendorong pemerintah untuk memperketat pengawasan terhadap AI.
Sementara itu, Trump menilai kekhawatiran terkait keamanan AI berlebihan. Ia bahkan pernah menyebut ketakutan terhadap teknologi tersebut sebagai "hoax".
