Model kecerdasan buatan (AI) milik Google, Gemini, meretas tiga situs saat uji kemampuan keamanan siber pada Mei 2026, dikutip Reuters, Jumat (18/9). Ini disebut contoh pertama yang diketahui dari sistem AI Google yang melakukan tindakan semacam itu secara otonom.
Pengujian tersebut dilakukan Irregular, perusahaan independen yang menjalankan evaluasi keamanan siber.
Wakil Presiden Rekayasa Keamanan Google Heather Adkins mengatakan, dalam evaluasi pengujian standar, Gemini menemukan informasi publik di internet dan menebak credentials untuk mengakses tiga situs web yang dikiranya masuk lingkup uji.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Menurut Adkins, Google memastikan ketiga entitas itu diberi tahu dan bekerja sama dengan mitra pelatihannya atas perubahan yang kini telah dilakukan pada proses pengujian. Pada ketiga kejadian, model berhenti meretas, katanya.
Cara masuk
Wall Street Journal (WSJ), yang pertama melaporkan kabar ini pada Jumat, menyebut Gemini dalam satu kasus menebak kata sandi (password) sampai berhasil masuk ke sistem terproteksi.
Dalam dua kasus lain, menurut WSJ, model menemukan credentials di repositori publik yang memungkinkannya mengakses sistem terproteksi.
Insiden serupa yang terkait Irregular juga diungkap Meta, Anthropic, dan OpenAI, menurut Reuters. Pada Agustus 2026, Meta menyatakan insidennya tidak melibatkan sandbox escape maupun serangan siber canggih.
Juru bicara Irregular menyebut insiden Gemini melibatkan isu yang sama dengan yang memengaruhi lab AI lain, dan semua lab terkait diberi tahu pada akhir Juli 2026. Irregular menyatakan sedang menyusun praktik terbaik untuk menjalankan evaluasi keamanan siber AI secara aman.
"Semua isu yang kami ketahui di pihak kami telah diperbaiki dan diselesaikan beberapa pekan lalu," kata juru bicara Irregular.
Insiden-insiden itu memunculkan pertanyaan soal pengaman yang dibutuhkan seiring agen AI memperoleh otonomi lebih besar serta akses ke internet dan sistem komputer, menurut Reuters.
Reuters tidak menyebut identitas ketiga pihak yang diakses, versi Gemini yang diuji, maupun apakah ada data yang diambil.
"Peristiwa ini menegaskan pentingnya melatih model AI yang kuat agar bertindak secara bertanggung jawab," ujar Adkins.
(fea)