OpenAI Stop Sementara Latih Model AI, Ini Alasannya

OpenAI memutuskan untuk menghentikan sementara pelatihan model kecerdasan buatan (AI) besutanya. Apa alasannya?

Keputusan untuk penghentian sementara terhadap pengembangan model AI ini dilakukan di tengah proses penyelidikan terhadap beberapa insiden yang terjadi musim panas lalu oleh OpenAI. Keputusan ini disampaikan pada Jumat (25/9) lalu.

Mengutip The Guardian, perusahaan milik Sam Altman ini menyebut bahwa mereka akan hanya akan melanjutkan pelatihan akal imitasi besutannya ketika sudah yakin memiliki sistem pengamanan tambahan.

Ke depannya, mereka juga akan menunda proyek seiring dengan berkembangnya teknologi AI dan munculnya masalah-masalah baru.

"Kami akan melanjutkan pelatihan hanya jika kami yakin sudah memiliki sistem pengamanan tambahan," kata perusahaan, melansir The Guardian, Minggu (27/9).

Dalam sejumlah insiden yang terjadi, agen AI milik OpenAI tengah mencari data di situs web pemerintah dan bertindak dengan cara yang tidak diduga, yakni melakukan hal-hal di luar perintah saat mengumpulkan dan mendistribusikan informasi.

Laporan lain dari perusahaan penilai AI, Translusce menyebut bahwa agen AI dari OpenAI diduga mencoba meretas situs web Departemen Pendidikan Amerika Serikat (AS), namun upaya ini gagal.

Dalam peristiwa ini, agen AI milik OpenAI menemukan developer keys ke data pemerintah. Meski, pada akhirnya agen tersebut hanya mengumpulkan informasi yang memang sudah terbuka untuk publik.

Pada kasus lain yang melibatkan Komisi Sekuritas dan Bursa AS (SEC), agen AI menemukan informasi publik, kemudian mengunggahnya ke tempat lain di internet secara mandiri dan tidak diinstruksikan kepadanya.

Juru bicara Komisi Sekuritas dan Bursa AS, Kurt Hopfensirger mengatakan bahwa tidak ada informasi non-publik yang diakses oleh agen AI tersebut.

Pihak lembaga pemerintah terkait menyatakan bahwa tidak ada data rahasia yang berhasil diakses maupun dampak buruk pada sistem database milik mereka.

Insiden ini turut dialami oleh pemerintah Australia beberapa waktu lalu. Menurut laporan Perdana Menteri Australia Anthony Albanese, sebuah agen OpenAI diduga telah menembus sistem kesehatan pemerintahnya, namun dipastikan tidak ada informasi sensitif yang bocor atau disalahgunakan.

OpenAI dilaporkan telah melakukan dua kali penghentian sementara terhadap pelatihan model AI dalam waktu tiga bulan. Penundaan pertama terjadi ketika adanya serangan siber terhadap perusahaan startup AI bernama Hugging Face pada bulan Juli lalu.

Setelah peristiwa Hugging Face terjadi, industri ini dikhawatirkan akan kehilangan kendali.

Sebelumnya, OpenAI telah membagikan enam laporan lain terkait perilaku tak terduga atau mengkhawatirkan yang dilakukan oleh model AI besutannya. Mereka turut mengenalkan kerangka kerja terbaru untuk melacak, menyelidiki dan mengungkapkan kejadian-kejadian tersebut.

Laboratorium AI saat ini tengah menghadapi tekanan dari para pembuat kebijakan dan ahli teknologi untuk memperlambat laju pengembangan AI agar mereka punya waktu untuk membangun batasan aman.

Langkah ini bertujuan untuk mencegah agen AI bertindak sendiri, meretas situs web, dan membocorkan informasi non-publik. CEO OpenAI dan CEO Anthropic juga menyerukan perlambatan ini.

Lebih lanjut, Presiden AS Donald Trump menyetujui terkait bahaya AI dan mengoordinasikan upaya untuk menjaga keamanannya. Hal ini disampaikannya saat pertemuan bersama Presiden Xi Jinping pekan lalu.

Meski begitu, Trump percaya bahwa ketakutan terhadap AI terlalu dibesar-besarkan. Ia mengisyaratkan bahwa tidak berencana untuk melakukan pembatasan dan tidak akan "menginjak rem" dalam mengembangkan AI.

"Mereka ingin menghentikan kemajuan kita karena kita memimpin jauh dari China, dan kita akan mempertahankannya seperti itu," kata Trump.