AI Bisa Menyebar Lewat Perangkat Rumah, Ini Temuan Anthropic

Perusahaan pengembang kecerdasan buatan (AI) Anthropic melaporkan model AI berpotensi menyebar atau mereplikasi diri tanpa memerlukan akses ke pusat data. Hanya dalam beberapa bulan ke depan, model-model ini diperkirakan mampu menyusup melalui perangkat rumah tangga komersial seperti oven pintar atau Android TV box.

Laporan ini disusun oleh William Zhou dan Daniel Freeman dan dipublikasikan melalui laman resmi Anthropic pada Senin (12/10). Temuan mereka menambah rentetan risiko baru AI yang telah perusahaan tersebut peringatkan sebelumnya.

Jika model mampu menyebar melalui jaringan perangkat Internet of Things (IoT) yang tersebar di seluruh dunia, maka tidak akan ada lagi satu titik kendali pusat yang bisa digunakan untuk mematikan penyebaran tersebut.

Uji coba peneliti menghubungkan 15 unit Android TV box dengan model AI Google Gemma4-26B-A4B dan menunjukkan bahwa perangkat tersebut mampu menjalankan inferensi terdistribusi secara kolektif dengan kecepatan 0,39 token per detik.

Mereka menyatakan bahwa jika terus berkembang secepat lajunya saat ini, model AI tersebut mampu mencapai tingkat kemampuan replikasi menyeluruh atau end-to-end replication pada akhir tahun ini.

AI secara mandiri melalui proses Autonomous Replication and Adaptation (ARA) dan kemampuannya berkembang secara berulang melalui Recursive Self-Improvement (RSI) tanpa kendali manusia telah lama menjadi kekhawatiran utama para peneliti keamanan AI.

"Worm AI dapat membawa bobot modelnya saat bereproduksi (atau mengunduhnya kembali dari hub publik), dan kemudian menjalankan inferensi langsung pada perangkat keras yang disusupi. Secara efektif, bobot tersebut akan menjadi bagian dari muatan malware," tulis Zhou dan Freeman.

Istilah "worm" merujuk pada program yang dapat menyebar dari satu komputer ke komputer lainnya tanpa campur tangan manusia.

Sebelumnya, penyebaran worm AI ini diasumsikan hanya akan menargetkan mesin komputasi besar seperti klaster GPU di pusat data. Namun, temuan terbaru ini membuktikan bahwa perangkat IoT rumahan yang murah sekalipun sudah memiliki daya komputasi yang cukup untuk menjalankan model AI yang mumpuni.

Perangkat-perangkat tersebut dinilai rawan karena terhubung ke internet tanpa memiliki sistem keamanan yang cukup kuat sehingga memudahkan penyusupan.

"Perangkat IoT rumahan dan bisnis kecil mungkin menjadi target pertama serangan semacam itu karena terhubung ke internet dan memiliki langkah-langkah keamanan minimal," ungkap mereka.

Dalam skenario terburuk, worm AI nantinya mungkin tidak hanya beroperasi sebagai satu model, melainkan dapat hadir dalam bentuk sekumpulan (swarm) model berbeda yang menggunakan berbagai skema replikasi pada berbagai perangkat keras.

Saat ini, perangkat-perangkat rumahan seperti lemari es pintar, oven pintar, penyedot debu otomatis, mesin pemotong rumput, dan CCTV telah dilengkapi chip AI kecil bawaan yang dirancang untuk menjalankan model AI pada perangkat itu sendiri.

"Kami memperkirakan masa depan yang dipenuhi agen yang berjalan di semua jenis perangkat keras, termasuk beberapa yang tidak berada di bawah kendali manusia," kata Anthropic.

Mengingat kondisi ini membahayakan sebagian besar infrastruktur komputasi IoT di dunia, Anthropic mendesak perlunya penguatan sistem keamanan bawaan sejak dari pabrik, serta regulasi yang memperketat standar kepatuhan untuk perangkat-perangkat komersial berbasis AI.