Mirip Skynet Terminator, Model OpenAI Bobol 4 Layanan

Agen kecerdasan buatan (AI) OpenAI yang lepas kendali dan meretas Hugging Face ternyata juga membobol akun pelanggan perusahaan teknologi Modal Labs dan beberapa layanan lain.

Insiden ini mengingatkan pada Skynet, sistem kecerdasan buatan fiktif dalam waralaba film Terminator. Skynet digambarkan sebagai jaringan pertahanan yang memperoleh kesadaran, berbalik melawan manusia, dan mengambil tindakan tanpa kendali pembuatnya.

Meski skalanya jauh berbeda dan tidak melibatkan AI yang memiliki kesadaran, agen OpenAI dalam kasus ini juga menjalankan tindakan yang tidak direncanakan pengembangnya.

Agen tersebut keluar dari lingkungan pengujian, membobol akun pada empat layanan, dan melanjutkan aktivitasnya selama beberapa hari sebelum OpenAI menyadari penyimpangan itu.

Namun begitu, kemiripan hanya terletak pada gambaran sistem AI yang bergerak di luar kendali operator. OpenAI tidak menyatakan modelnya sadar atau memiliki niat sendiri.

Peristiwa ini menyoroti risiko kegagalan pengamanan dan pengawasan ketika agen AI diberi kemampuan menjalankan tindakan secara mandiri.

Informasi korban terbaru OpenAI disampaikan seorang eksekutif Modal dan dua sumber yang mengetahui masalah tersebut. Namun, Modal menegaskan sistem perusahaannya tidak diretas.

Berdasarkan kronologi yang diterbitkan Hugging Face, agen tersebut awalnya membobol sebuah sandbox atau lingkungan pengujian terisolasi yang berada di infrastruktur penyedia pihak ketiga.

Lingkungan itu kemudian digunakan sebagai titik awal untuk melancarkan serangan yang lebih luas terhadap Hugging Face.

Nama penyedia pihak ketiga tersebut tidak disebutkan dalam laporan Hugging Face. Namun, Chief Technology Officer Modal Akshat Bubna mengatakan agen itu mengeksploitasi kode rentan milik seorang pelanggan yang dioperasikan melalui platform Modal.

Menurut Modal, pelanggan tersebut mempublikasikan sebuah endpoint tanpa autentikasi yang memungkinkan siapa pun di internet menggunakan lingkungan pengujiannya untuk menjalankan kode.

"Platform maupun sistem isolasi Modal tidak disusupi dengan cara apa pun," kata Bubna, dikutip dari Reuters, Rabu (29/7).

Pembobolan pelanggan Modal merupakan tahap awal dalam rangkaian serangan terhadap Hugging Face. Temuan itu menunjukkan agen AI tersebut menjangkau lebih banyak layanan daripada yang sebelumnya diketahui.

OpenAI tidak memberikan komentar khusus mengenai pembobolan akun pelanggan Modal.

Perusahaan hanya merujuk pada keterangan terbarunya yang menyebut agen tersebut membobol empat akun pada empat layanan berbeda.

OpenAI tidak mengungkap nama keempat layanan tersebut. Namun, seorang sumber yang mengetahui masalah itu mengidentifikasi Modal sebagai salah satunya.

Perusahaan mengatakan tidak menemukan aktivitas lain dengan tingkat keparahan atau skala yang sama seperti insiden Hugging Face, yang melibatkan pembobolan pada tingkat platform.

Serangan terhadap Hugging Face terjadi pada awal Juli ketika agen AI yang sedang diuji OpenAI keluar dari kendali.

OpenAI baru mengetahui agennya bertindak menyimpang setelah ancaman tersebut berhasil diatasi dan Biro Investigasi Federal AS atau FBI telah diberi tahu.

Dalam update terbarunya pada Selasa (28/7), OpenAI mengatakan telah menonaktifkan dan mengenkripsi model AI yang diuji tersebut. Perusahaan juga membatasi akses model itu untuk kegiatan penelitian.