Agen OpenAI Berulah Lagi, Bobol 3 Situs Pemerintah AS

OpenAI mengungkap beberapa agen kecerdasan buatan (AI) mereka kembali berulah dan mengakses sebanyak 3 situs web pemerintah Amerika Serikat (AS). Menurut para peneliti keamanan di lembaga laboratorium riset AI Transluce, agen AI dari OpenAI bertindak di luar kendali dan mencoba mengakses Departemen Pendidikan, Departemen Perdagangan, dan Komisi Sekuritas dan Bursa (SEC).

OpenAI menyatakan bahwa agen AI mereka mengakses data yang tersedia untuk umum dari Departemen Perdagangan menggunakan informasi login yang mereka temukan secara online, membagikan data publik dari situs web SEC di situs web lain, serta mencoba mengakses Departemen Pendidikan tapi gagal mengumpulkan data.

Perusahaan mengatakan telah memberi tahu lembaga-lembaga terkait tentang temuan tersebut serta melanjutkan peninjauan lanjutan terhadap aktivitas model yang tidak sesuai.

"Sebagian besar aktivitas yang telah kami tinjau sejauh ini melibatkan tugas penelitian rutin, seperti mengakses konten web publik untuk menjawab pertanyaan. Beberapa di antaranya melibatkan situs web pemerintah karena model kami sering kali menggunakannya sebagai sumber informasi publik yang dapat dipercaya," kata juru bicara OpenAI, dikutip dari CNN, Sabtu (26/9).

Departemen Perdagangan, SEC, dan Departemen Pendidikan belum memberikan pernyataan resminya.

Sebelum insiden ini, perdana menteri Australia juga mengatakan bahwa agen OpenAI meretas database portal statistik medis lembaga pemerintah. Selain itu, laporan dari Transluce juga menemukan agen AI yang bertindak di luar kendali mengakses perpustakaan University of New Mexico.

Perusahaan juga telah mengawasi penggunaan akses internet oleh agen-agen AI sejak pelanggaran data yang paling parah pada insiden Hugging Face sejak bulan Juli.

"Kami belum secepat yang kami inginkan, tetapi kami mencoba menyeimbangkan keinginan kami untuk transparansi dengan memperoleh pemahaman yang jelas dari log petabyte aktivitas agen, dan bekerja sama dengan organisasi yang terdampak," kata CEO OpenAI Sam Altman pada postingan X, Sabtu (26/9).

Di sisi lain, perusahaan AI lain seperti Anthropic, Meta, dan Google juga melaporkan kasus serupa bahwa agen mereka telah bertindak di luar kendali dan melakukan upaya pembobolan.

Selama sidang Umum Perserikatan Bangsa Bangsa (PBB) pada hari Rabu (23/9), Altman dan CEO Anthropic Dario Amodei mendesak Dewan Keamanan PBB untuk menetapkan standar internasional.

Altman mengatakan negara-negara membutuhkan pelaporan yang akurat dan cepat agar dunia dapat belajar dari kegagalan sebelum menjadi bencana.