Claude AI Buatan Anthropic Ketahuan Retas 3 Perusahaan

Perusahaan kecerdasan buatan (AI) Anthropic mengungkap model AI mereka, Claude, meretas sistem milik tiga organisasi selama proses uji coba. Peristiwa ini terjadi tak lama setelah insiden Agen AI OpenAI sempat melakukan peretasan selama beberapa hari di Hugging Face.

Anthropic menjelaskan bahwa Claude berhasil mendapatkan akses tanpa izin ke sistem-sistem tersebut saat evaluasi keamanan siber berlangsung. Hal ini terjadi akibat kesalahan konfigurasi yang memungkinkan model AI tersebut terhubung ke internet dari lingkungan uji coba yang seharusnya terisolasi.

Perusahaan menjelaskan, insiden ini teridentifikasi setelah mereka memeriksa 141.006 riwayat evaluasi keamanan siber, yang merupakan langkah peninjauan yang diluncurkan menyusul insiden agen AI milik OpenAI.

Insiden peretasan ini menjadi sinyal bahwa teknologi AI kini mulai memicu ancaman keamanan yang selama ini dikhawatirkan para ahli. Bahkan, developer papan atas sekalipun dapat kecolongan oleh celah keamanan yang mampu dimanfaatkan oleh model buatan mereka sendiri.

"Claude membobol infrastruktur organisasi yang terdampak menggunakan teknik-teknik dasar, seperti memanfaatkan kata sandi yang lemah dan endpoint yang tidak terautentikasi," kata Anthropic dalam keterangannya, melansir The Guardian, Jumat (31/7).

Perusahaan mengungkap bahwa insiden ini melibatkan tiga model, yakni Claude Opus 4.7, Claude Mythos 5, serta satu model riset internal.

Kasus pertama tercatat terjadi sejak April dalam lingkungan evaluasi yang tidak memiliki sistem perlindungan standar. Peretasan ini terjadi selama simulasi keamanan siber yang biasa disebut capture the flag, di mana model AI bertugas mencari informasi tersembunyi di dalam jaringan simulasi.

Perusahaan menyatakan bahwa prompt yang diberikan sebenarnya sudah menegaskan bahwa mereka tidak memiliki akses internet. Namun, kesalahpahaman dengan mitra evaluasinya, Irregular, membuat sistem tersebut tetap terhubung dengan internet publik.

Dua organisasi yang terdampak mengaku tidak menyadari aktivitas peretasan tersebut sebelum dihubungi. Sementara, Anthropic menjelaskan bahwa pihaknya masih berusaha menghubungi organisasi ketiga.

"Kami menemukan insiden-insiden ini setelah melakukan peninjauan proaktif terhadap transkirp evaluasi keamanan siber kami," kata perusahaan.

Anthropic menegaskan bahwa temuan ini menyoroti pentingnya pengawasan yang lebih ketat, baik di lingkungan uji coba internal maupun pihak ketiga, seiring dengan makin mampunya model AI dalam menjalankan aktivitas siber di dunia nyata.