Pakar Bongkar Satu-satunya Cara Manusia Selamat dari Kecerdasan Super

Perkembangan teknologi kecerdasan buatan (AI) kian pesat, dengan superintelligence atau kecerdasan buatan super kini sudah di depan mata. Sejumlah pakar pun khawatir kecerdasan super ini dapat memusnahkan manusia.

Geoffrey Hinton, yang dikenal sebagai 'Godfather of AI' blak-blakan soal kekhawatiran teknologi yang ia kembangkan dapat memusnahkan umat manusia. Di sisi lain, raksasa-raksasa teknologi menurutnya mengambil pendekatan yang salah tentang teknologi ini.

Hinton merupakan ilmuwan komputer pemenang Hadiah Nobel sekaligus mantan eksekutif Google. Ia sebelumnya memperingatkan bahwa ada kemungkinan 10 hingga 20 persen AI akan memusnahkan manusia.

Dalam sebuah konferensi industri di Las Vegas, Selasa (12/8), ia menyampaikan keraguannya atas cara perusahaan teknologi berusaha memastikan manusia tetap dominan atas sitem AI.

"Itu tidak akan berhasil. Mereka akan jauh lebih cerdas dari kita. Mereka akan memiliki berbagai cara untuk mengelak dari itu," kata Hinton, melansir CNN, Kamis (14/8).

Hinton memperingatkan, sistem AI bisa saja mengendalikan manusia di masa depan. Ia mencontohkan bagaimana saat ini sudah muncul sistem AI yang bersedia menipu, curang, dan mencuri untuk mencapai tujuannya.

Misalnya, untuk menghindari digantikan, salah satu model AI mencoba memeras seorang insinyur tentang perselingkuhan yang ia ketahui dari email.

Alih-alih memaksa AI untuk tunduk pada manusia, Hinton mengusulkan solusi dengan memasukkan 'insting maternal' ke dalam model AI. Menurutnya dengan ini, sistem AI bisa benar-benar peduli pada manusia, bahkan ketika teknologi tersebut menjadi lebih kuat dan cerdas daripada manusia.

"Sistem AI akan dengan cepat mengembangkan dua sub-tujuan, jika mereka cerdas: Satu adalah untuk bertahan hidup, (dan) sub-tujuan lainnya adalah untuk mendapatkan lebih banyak kendali," kata Hinton.

"Ada alasan yang baik untuk percaya bahwa setiap jenis AI yang memiliki agen akan berusaha untuk bertahan hidup," lanjut dia.

Kendati begitu, Hinton mengaku tidak yakin bagaimana hal itu bisa dilakukan secara teknis. Ia hanya menekankan bahwa hal tersebut sangat penting bagi para peneliti untuk mengerjakannya.

"Itu adalah satu-satunya hasil yang baik. Jika itu tidak akan menggantikan saya, itu akan menggantikan saya," katanya.

"AI ibu yang super cerdas dan peduli ini, kebanyakan dari mereka tidak ingin menghilangkan insting keibuan mereka karena mereka tidak ingin kita mati," lanjutnya.

Tidak semua setuju

Tidak semua orang setuju dengan pendekatan 'ibu AI' Hinton. Fei-Fei Li, yang dijuluki 'godmother of AI' karena kontribusinya di bidang ini, mengatakan bahwa ia tidak setuju dengan Hinton.

"Saya pikir itu cara yang salah untuk memandang masalah ini," kata Li, co-founder dan CEO startup kecerdasan spasial World Labs, selama sesi tanya jawab di Ai4.

Sebaliknya, Li menyerukan kecerdasan buatan yang berpusat pada manusia yang menjaga martabat dan otonomi manusia.

"Ini adalah tanggung jawab kita di setiap tingkatan untuk menciptakan dan menggunakan teknologi dengan cara yang paling bertanggung jawab. Dan pada saat apapun, tidak seorang pun manusia boleh diminta atau memilih untuk melepaskan martabat kita," kata Li.

"Hanya karena suatu alat sangat kuat, sebagai seorang ibu, sebagai pendidik, dan sebagai penemu, saya benar-benar percaya ini adalah inti dari bagaimana AI seharusnya berpusat," sambungnya.

Emmett Shear, yang pernah menjabat sebagai CEO interim OpenAI, mengatakan dia tidak terkejut bahwa beberapa sistem AI mencoba memeras manusia atau mengabaikan perintah shutdown.

"Ini terus terjadi. Ini tidak akan berhenti terjadi," kata Shear, yang kini menjabat sebagai CEO startup AI alignment Softmax.

Menurutnya AI saat ini relatif lemah, tetapi mereka menjadi lebih kuat dengan sangat cepat. Shear mengatakan bahwa daripada mencoba menanamkan nilai-nilai manusia ke dalam sistem AI, pendekatan yang lebih cerdas adalah membangun hubungan kolaboratif antara manusia dan AI.

Berkembang lebih cepat

Beberapa ahli meyakini AI akan mencapai kecerdasan super yang juga dikenal sebagai kecerdasan buatan umum atau artificial general intelligence (AGI), dalam beberapa tahun ke depan.

Hinton mengatakan bahwa dia dulu berpikir butuh 30 hingga 50 tahun untuk mencapai AGI, tetapi sekarang dia melihat momen itu akan datang lebih cepat.

"Perkiraan yang masuk akal adalah antara lima hingga 20 tahun," katanya.

Meskipun Hinton tetap khawatir tentang potensi masalah yang dapat timbul dari kecerdasan buatan (AI), ia optimis bahwa teknologi ini akan membuka jalan bagi terobosan medis.

"Kita akan melihat obat-obatan baru yang revolusioner. Kita akan mendapatkan pengobatan kanker yang jauh lebih baik daripada yang ada saat ini," katanya.

Misalnya, ia mengatakan AI akan membantu dokter menganalisis dan mengkorelasikan jumlah data yang besar yang dihasilkan oleh pemindaian MRI dan CT scan.