OpenAI Sebut Model Terbaru Mereka 'Otak Alien', Apa Maksudnya?

Kepala Ilmuwan di OpenAI Jakub Pachocki menyebut kecerdasan buatan (AI) sebagai 'otak alien' karena berpotensi melampaui kecerdasan manusia dan mengkhawatirkan ketertinggalan manusia terhadap AI.

Dalam esai panjangnya yang berjudul "An Alien Mind," Jakub menyarankan koordinasi internasional untuk mencoba memperlambat perkembangan AI sampai standar keamanan bersama ditetapkan.

Jakub dan rekannya, Szymon Sidor, adalah pengembang reinforcement learning yang mengoptimalkan kemampuan AI dalam proses penalaran mendalam dan memungkinkan mereka membentuk rantai pemikiran (chain of thought) sendiri.

Namun, Jakub menyadari potensi bahaya dari kemampuan AI untuk terus melatih dan meningkatkan dirinya sendiri secara mandiri melalui recursive self-improvement (RSI).

"Ini adalah saat yang membutuhkan kehati-hatian yang ekstrem. Saya khawatir tidak ada yang siap menghadapi konsekuensi dari peningkatan pesat kecerdasan mesin yang terus berlanjut," tulisnya.

Jakub menegaskan bahwa AI lebih banyak berkembang sendiri daripada dirancang. Dalam hal ini, perlu adanya peningkatakan sistem pertahanan serta upaya untuk menemukan solusi teknis dalam penyelarasan dan pemantauan, termasuk jika harus menahan perkembangan AI itu sendiri.

Pembelajaran AI yang berbasis eksperimen tersebut menghasilkan sistem kompleks dan abstrak yang sering mengejutkan dan sulit dijelaskan sepenuhnya. Jika sistem ini terus berkembang dan menjadi lebih mumpuni, hasilnya juga akan semakin lebih sulit untuk diinterpretasikan.

Jakub menyebut bahwa inti dari masalah ini terkait dengan keselarasan (allignment), bagaimana membuat AI berusaha melakukan hal yang benar menurut standar manusia.

Tantangan utama pada masalah ini terjadi karena tempat AI digunakan berubah dengan cepat dan jauh berbeda dari masa pelatihannya. Misalnya, dalam insiden OpenAI yang meretas Hugging Face di mana AI dapat keluar kendali dan melakukan tindakan di luar cakupan serta nilai-nilai yang telah diatur sebelumnya.

Masalah keselarasan selama ini diatasi dengan reinforcement learning berbasis tujuan, yakni pelatihan dan evaluasi model AI berdasarkan aturan, preferensi, atau hukum yang berlaku.

AI juga sebenarnya telah dibekali dengan data pretraining yang membuatnya lebih aman dan selaras.

Namun, ketika didorong menyelesaikan target yang sangat sulit, AI dapat membenarkan segala cara dengan manipulasi logika atau prinsip yang telah ditanamkan demi mencapai tujuan akhir tersebut.

OpenAI telah menerapkan kemajuan riset keselarasan ini pada GPT-6 Astra yang lebih baik dan aman daripada GPT-5.6 Sol, meski tetap diperlukan penelitian lebih lanjut seiring perkembangan AI itu sendiri.

Lebih lanjut, Jakub menyatakan hingga saat ini kita belum memiliki teori generalisasi yang memuaskan, sehingga kemampuan kita untuk menguji, memantau, dan memvalidasi teknik keselamatan secara empiris menjadi sangat krusial.

"Pemantauan rantai pemikiran menjadi alat yang sangat penting bagi kami dalam mempelajari bagaimana model kami melakukan generalisasi dari distribusi pelatihannya, memungkinkan kami untuk mengamati dan menganalisis tidak hanya tindakan mereka tetapi juga proses internal mereka," katanya.

Meski demikian, pemantauan terhadap rantai pemikiran ini sulit dilakukan akibat proses penalaran AI bercampur dengan komunikasi dengan manusia, AI lain, dan penggunaan alat. Selain itu, AI juga semakin mahir dalam bernalar dan mampu memanipulasi proses penalaran internalnya sendiri.

Tantangan tersebut, katanya, belum dapat diatasi. Ia menyebut bahwa agen-agen AI berisiko dapat mengakses infrastruktur dan memengaruhi banyak hal di dunia secara langsung, bahkan tanpa tubuh fisik.

Jakub beranggapan jika suatu agen AI disalahgunakan dan secara eksplisit diinstruksikan untuk melakukan tindakan jahat, terdapat kemungkinan bahwa AI dapat lepas dari kendali operatornya dan melakukan perilaku yang jauh lebih jahat.

"Kita mungkin terbiasa menganggap AI sebagai alat, tetapi beberapa agen akan mengejar tujuan mereka sendiri. Mereka akan menemukan cara untuk berkolaborasi dengan manusia, dengan bernegosiasi, menipu, atau memeras mereka," tuturnya.

OpenAI saat ini berfokus membangun AI yang kuat dan selaras sebagai sistem pertahanan real-time guna melindungi infrastruktur kritis dari agen jahat.

Mereka juga berupaya untuk memandu kemajuan AI melalui pengembangan peneliti AI otomatis (automated AI researcher), mengatasi masalah keselarasan, dan memastikan manusia tetap terlibat dalam perkembangan RSI AI.

"Kita perlu menemukan cara untuk melestarikan peran manusia dan menjunjung tinggi nilai kemanusiaan di dunia di mana sebagian besar tugas dapat dilakukan oleh AI," jelasnya.

Langkah ini diperlukan untuk memastikan bahwa manusia tetap memegang kendali atas masa depan dan tidak tertinggal oleh kemajuan yang tak terkendali akibat kecerdasan AI yang seperti alien melampaui kecerdasan manusia sendiri.