AI Super Q* Diduga Ada di Balik Pemecatan Sam Altman

Pengembangan kecerdasan buatan (AI) super bernama Q* (dibaca Q Star) diduga merupakan masalah sebenarnya di balik pemecatan Sam Altman dari kursi CEO OpenAI.

Sebelumnya, Altman dipecat dewan direksi pada Jumat (17/11) setelah menemukan "dia tidak secara konsisten jujur dalam komunikasinya dengan dewan."

Sempat ada negosiasi di akhir pekan, Altman tetap gagal balik ke kursi CEO. Pengikutnya, 700 karyawan OpenAI, mengancam ikut keluar. Microsoft kemudian merekrut Altman.

Pada Selasa (21/11) malam, Altman dan OpenAI mencapai kesepakatan untuk mengembalikannya ke kursi CEO dan mengganti jajaran dewan direksi.

Fakta terbaru mengungkap ada alasan lain di balik pemecatan itu.

Melansir Reuters, menjelang empat hari pengasingan CEO OpenAI Sam Altman, beberapa peneliti menulis surat kepada dewan direksi untuk memperingatkan penemuan kecerdasan buatan yang kuat.

Menurut dua orang yang mengetahui masalah tersebut, super-AI ini dianggap dapat mengancam umat manusia.

Surat dan algoritma AI yang sebelumnya tidak dilaporkan adalah alasan utama sebelum dewan memecat Altman, kata kedua sumber tersebut.

Sumber-sumber tersebut mengatakan surat tersebut sebagai salah satu faktor di antara daftar panjang keluhan dewan yang menyebabkan pemecatan Altman. Alasan lainnya adalah kekhawatiran atas komersialisasi kemajuan sebelum memahami konsekuensinya.

Reuters tidak dapat mengecek salinan surat tersebut. Staf yang menulis surat itu juga tidak menanggapi permintaan komentar. Senada, OpenAI menolak berkomentar.

Namun, menurut salah satu sumber, OpenAI mengakuinya dalam pesan internal kepada staf proyek Q* dan surat kepada dewan direksi sebelum acara akhir pekan.

Seorang juru bicara OpenAI mengatakan bahwa pesan tersebut, yang dikirim oleh eksekutif lama Mira Murati, mengingatkan staf soal berita-berita media tertentu tanpa mengomentari keakuratannya.

Salah satu sumber mengungkap beberapa orang di OpenAI percaya Q* bisa menjadi terobosan dalam pencarian makhluk yang dikenal sebagai kecerdasan umum buatan (AGI).

OpenAI mendefinisikan AGI sebagai sistem autonom yang melampaui manusia dalam sebagian besar tugas yang bernilai ekonomis.

Mengingat sumber daya komputasi yang besar, kata seorang sumber yang tidak ingin disebutkan namanya karena tidak berwenang untuk berbicara atas nama perusahaan, model baru ini mampu memecahkan masalah matematika tertentu.

Meskipun hanya mengerjakan matematika pada tingkat siswa sekolah dasar, sumber itu menyebut keberhasilan dalam tes tersebut membuat para peneliti sangat optimistis tentang kesuksesan Q* di masa depan.

Reuters tidak dapat memverifikasi secara independen kemampuan Q* yang diklaim oleh para peneliti.

Kemampuan AI super dalam soal matematika di halaman berikutnya...

AI Bisa Selesaikan Soal Matematika

Sam Altman pernah menjadi pembicara di acara KORIKA, di Jakarta, beberapa waktu lalu. (CNN Indonesia/Loamy Noprizal)

Altman di APEC

Altman sendiri memimpin upaya untuk menjadikan ChatGPT sebagai salah satu aplikasi perangkat lunak dengan pertumbuhan tercepat dalam sejarah dan menarik investasi, dan sumber daya komputasi, yang diperlukan dari Microsoft untuk lebih dekat dengan AGI.

Selain mengumumkan serangkaian alat baru dalam demonstrasi bulan ini, Altman pekan lalu juga menyampaikan pesan pada pertemuan puncak para pemimpin dunia di San Francisco bahwa ia yakin kemajuan besar sudah di depan mata.

"Empat kali dalam sejarah OpenAI, yang terbaru terjadi dalam beberapa minggu terakhir, saya berada di ruangan tersebut, ketika kita semacam membuka tabir ketidaktahuan dan memajukan batas penemuan, dan melakukan hal tersebut merupakan kehormatan profesional seumur hidup," katanya pada KTT Kerjasama Ekonomi Asia-Pasifik (APEC).

Sehari kemudian, dewan memecat Altman.

Matematika adalah kunci

Para peneliti menganggap matematika sebagai garda depan pengembangan AI generatif. Saat ini, AI generatif sudah pandai menulis dan menerjemahkan bahasa dengan memprediksi kata berikutnya secara statistik, dan dengan jawaban yang sangat variatif.

Namun, dengan menguasai kemampuan mengerjakan matematika, yang hanya punya satu jawaban yang benar, berarti AI akan memiliki kemampuan penalaran yang lebih besar seperti kecerdasan manusia.

[Gambas:Infografis CNN]

Menurut para peneliti AI, hal ini dapat diterapkan pada penelitian ilmiah baru, misalnya.

Berbeda dengan kalkulator yang dapat menyelesaikan sejumlah operasi terbatas, AGI dapat menggeneralisasi, mempelajari, dan memahami.

Dalam surat mereka kepada dewan, para peneliti menandai kehebatan dan potensi bahaya AI, kata sumber tersebut tanpa merinci masalah keamanan apa yang disebutkan dalam surat tersebut.

Telah lama terjadi diskusi di kalangan ilmuwan komputer tentang bahaya yang ditimbulkan oleh mesin yang sangat cerdas. Contohnya, jika mereka memutuskan bahwa kehancuran umat manusia adalah demi kepentingan mereka.

Para peneliti juga menandai pekerjaan yang dilakukan oleh tim "ilmuwan AI," yang keberadaannya telah dikonfirmasi oleh berbagai sumber.

Kelompok tersebut, yang dibentuk dengan menggabungkan tim "Code Gen" dan "Math Gen" sebelumnya, kata salah satu sumber, sedang mengeksplorasi cara mengoptimalkan model AI yang ada untuk meningkatkan penalaran mereka dan pada akhirnya membuat karya ilmiah.