Terlalu Berbahaya, Model AI dari Anthropic Ini Tak Bisa Diakses Publik
Anthropic mengumumkan kehadiran Mythos, model kecerdasan buatan (AI) terbaru, yang diklaim terlalu berbahaya untuk dilepas ke publik. Perusahaan hanya akan memberikan akses model AI ini ke sejumlah perusahaan teknologi dan keamanan siber terbesar guna menahan laju perlombaan senjata berbasis AI yang dimanfaatkan para peretas.
Perusahaan menyatakan bahwa raksasa industri seperti Amazon, Apple, Cisco, Google, JPMorgan Chase, dan Microsoft akan mendapatkan akses ke model tersebut untuk memperkuat kemampuan pertahanan siber dan mengantisipasi ancaman yang semakin kompleks.
Hal ini mencakup identifikasi bug dalam perangkat lunak perusahaan-perusahaan tersebut serta pengujian efektivitas teknik peretasan tertentu terhadap produk-produk mereka.
Mythos, yang secara resmi dinamai 'Claude Mythos Preview', belum siap diluncurkan ke publik karena berpotensi disalahgunakan oleh penjahat siber dan mata-mata, sebuah kemungkinan yang telah memicu kekhawatiran luas di Washington dan Silicon Valley.
Menurut para ahli, kecepatan dan skala yang dimiliki agen AI dalam mendeteksi kerentanan jauh melampaui kemampuan manusia pada umumnya dan menandai perubahan besar dalam bidang keamanan siber.
Satu agen AI mampu mendeteksi dan berpotensi mengeksploitasi kerentanan dengan lebih cepat dan lebih gigih daripada ratusan peretas manusia.
"Kami merasa tidak nyaman untuk merilis hal ini secara umum," kata Logan Graham, yang memimpin tim di Anthropic yang bertugas mengelola sistem pertahanan model AI-nya, kepada CNN, Rabu (8/4).
"Kami berpendapat bahwa masih banyak yang harus dilakukan untuk memastikan adanya langkah-langkah pengamanan yang memadai," lanjutnya.
Siap diuji
Seorang petinggi Anthropic mengatakan bahwa perusahaan telah memberikan penjelasan kepada para pejabat senior AS "di seluruh jajaran pemerintah AS" mengenai seluruh kemampuan siber ofensif dan defensif Mythos.
Petinggi itu menambahkan bahwa perusahaan juga "siap membantu pemerintah dalam melakukan pengujian dan evaluasi terhadap teknologi tersebut."
Para petinggi Anthropic berharap bahwa dengan merilis Mythos kepada perusahaan-perusahaan yang melayani miliaran pengguna, hal ini akan membantu menciptakan kondisi yang setara dalam menghadapi para penyerang. Tujuannya adalah untuk mencegah agar celah keamanan besar pada peramban internet dan sistem operasi populer tidak diungkap ke publik.
Anthropic telah mengumumkan bahwa perusahaan dan organisasi lain, termasuk produsen chip Broadcom dan Nvidia, organisasi nirlaba Linux Foundation, serta penyedia layanan keamanan siber CrowdStrike dan Palo Alto Networks, akan memiliki akses ke Mythos.
"Jika model-model ini akan sehebat ini - dan mungkin jauh lebih baik lagi - dalam menangani semua tugas keamanan siber, kita harus bersiap-siap secepatnya," kata Graham.
"Dunia akan sangat berbeda jika kemampuan model-model ini benar-benar menjadi bagian dari kehidupan kita," tambahnya.
Lampaui kemampuan manusia
Sebuah postingan blog yang bocor bulan lalu memberikan gambaran awal mengenai kemampuan Mythos dan menyatakan bahwa model AI tersebut "jauh lebih unggul" daripada kemampuan siber model-model lainnya.
Menurut postingan blog tersebut, yang pertama kali dilaporkan oleh Fortune, Mythos "menandai datangnya gelombang model-model baru yang mampu mengeksploitasi kerentanan dengan cara yang jauh melampaui upaya para pertahanan."
Para ahli sebelumnya mengatakan bahwa sebagian kekhawatiran mengenai kemungkinan Mythos disalahgunakan oleh pihak-pihak yang berniat jahat terlalu dibesar-besarkan.
Namun, kebocoran tersebut juga mengungkap sebuah kenyataan yang tidak menyenangkan, menurut sumber-sumber tersebut. Kecuali ada perubahan arah, kesenjangan antara penyerang dan pihak yang bertahan yang dipicu oleh AI dapat semakin melebar.
Anthropic mengklaim bahwa Mythos telah menghasilkan hasil yang signifikan. Dalam beberapa pekan terakhir, model tersebut telah menemukan "ribuan" kerentanan perangkat lunak yang sebelumnya tidak diketahui sebuah angka yang jauh melampaui pencapaian para peneliti manusia, menurut perusahaan tersebut.
Para peneliti manusia menemukan celah-celah perangkat lunak semacam itu dengan susah payah, sementara badan intelijen dan penjahat siber mengincar celah-celah tersebut untuk melakukan peretasan secara diam-diam.
Namun, para ahli keamanan siber sebenarnya sudah menggunakan kecerdasan buatan untuk melindungi sistem dari serangan eksploitasi bahkan sebelum Mythos muncul.
Pada bulan Desember, Gadi Evron dan para peneliti keamanan lainnya merilis sebuah alat yang didasarkan pada model Claude dari Anthropic, yang mampu menghasilkan solusi untuk kerentanan perangkat lunak yang serius.
"Tidak seperti para penyerang, pihak pertahanan belum memiliki kemampuan AI yang dapat mempercepat kerja mereka hingga tingkat yang sama," kata Evron, pendiri perusahaan keamanan AI Knostic.
"Namun, kemampuan serangan tersedia bagi para penyerang maupun pihak pertahanan, dan pihak pertahanan harus memanfaatkannya jika ingin tetap bersaing," lanjutnya.
(wpj/dmi)