Ratusan Tokoh Publik Ajak Setop Pengembangan Superintelligence AI

Ratusan tokoh publik, termasuk para ahli kecerdasan buatan (AI) Co-founder Apple Steve Wozniak hingga Prince Harry, menyerukan penghentian menciptakan superintelligence. Superintelligence adalah bentuk AI yang akan melampaui manusia dalam hampir semua tugas kognitif.

Lebih dari 22 ribu orang telah menandatangani petisi yang dirilis pada Rabu (22/10) tersebut, termasuk pemimpin teknologi seperti pendiri Virgin Group Richard Branson, ilmuwan komputer Yoshua Bengio dan Geoff Hinton, yang dianggap sebagai "bapak pendiri" AI modern.

Lihat Juga : Studi Ungkap Beda Cara GenZ Hingga Boomer Pakai Fitur AI

Duke dan Duchess of Sussex, Harry dan Meghan, juga bergabung dengan para pionir AI dan pemenang Hadiah Nobel menyerukan larangan pengembangan superintelligence.

Superintelligence telah menjadi istilah populer di dunia AI, seiring perusahaan-perusahaan seperti xAI milik Elon Musk dan OpenAI milik Sam Altman bersaing merilis model bahasa besar yang lebih canggih.

Meta bahkan telah menamai divisi LLM-nya sebagai 'Meta Superintelligence Labs.'

Petisi ini memperingatkan bahwa prospek kecerdasan super telah "menimbulkan kekhawatiran, mulai dari usangnya ekonomi manusia dan hilangnya kekuasaan, kerugian kebebasan, hak asasi manusia, martabat, dan kendali, hingga risiko keamanan nasional dan bahkan potensi kepunahan manusia."

Dikutip dari CNBC, pernyataan tersebut menyerukan larangan pengembangan kecerdasan super hingga terdapat dukungan publik yang kuat terhadap teknologi tersebut dan konsensus ilmiah bahwa kecerdasan super dapat dibangun dan dikendalikan dengan aman.

Selain tokoh-tokoh AI dan teknologi, nama-nama di balik pernyataan tersebut berasal dari koalisi masyarakat yang luas, meliputi akademisi, tokoh media, pemimpin agama, dan kelompok bipartisan mantan politisi dan pejabat AS.

Ada juga sejumlah pejabat yang telah pensiun seperti mantan Ketua Gabungan Kepala Staf Angkatan Bersenjata AS Mike Mullen dan mantan Penasihat Keamanan Nasional Susan Rice.

Pernyataan yang ditujukan kepada pemerintah, perusahaan teknologi dan pembuat kebijakan ini dibuat oleh Future of Life Institute (FLI), sebuah kelompok keamanan AI berbasis di AS yang menyerukan penundaan pengembangan sistem AI yang kuat pada 2023.

Pada Juli, Bos Meta Mark Zuckerberg mengatakan bahwa pengembangan kecerdasan super (superintelligence) kini "sudah di depan mata".

Namun, beberapa ahli mengatakan bahwa pembicaraan tentang ASI (Artificial Superintelligence) lebih mencerminkan posisi kompetitif di antara perusahaan teknologi yang menghabiskan ratusan miliar dolar untuk AI, daripada pencapaian terobosan teknis yang signifikan.

Meski demikian, FLI menyatakan prospek tercapainya ASI dalam dekade mendatang membawa sejumlah ancaman.

Lihat Juga : AWS Pulih Seribu Perusahaan Tetap Was-was

Dilansir The Guardian, ketakutan eksistensial tentang AI berfokus pada kemampuan sistem untuk menghindari kendali manusia dan pedoman keamanan, serta memicu tindakan yang bertentangan dengan kepentingan manusia.

FLI juga merilis jajak pendapat nasional AS yang menunjukkan bahwa sekitar tiga perempat warga Amerika menginginkan regulasi yang ketat terhadap AI canggih, dengan enam dari 10 orang percaya bahwa AI superhuman tidak boleh dikembangkan hingga terbukti aman atau dapat dikendalikan. Survei terhadap 2.000 orang dewasa AS juga menambahkan bahwa hanya 5 persen yang mendukung status quo pengembangan yang cepat dan tidak teratur.