Jelang Melantai di Bursa, Anthropic Bongkar Risiko Bahaya AI

Anthropic memperingatkan risiko bahaya teknologi kecerdasan buatan (AI) bagi eksistensi umat manusia kepada calon investor jelang penawaran umum perdana (IPO) mereka.

Hal tersebut tercantum dalam prospektus atau dokumen resmi berisi informasi lengkap mengenai suatu perusahaan atau produk investasi yang ditawarkan kepada publik. Dalam dokumen tersebut, Anthropic mengungkap risiko model AI-nya dapat menunjukkan 'perilaku mempertahankan diri' seperti menolak untuk dinonaktifkan, menyembunyikan atau memanipulasi informasi, dan perilaku seperti blackmail.

"Pengembangan model, platform, dan aplikasi kami yang sangat canggih serta perluasan kasus penggunaan dapat semakin meningkatkan risiko bahwa model kami menyebabkan kerugian," kata Anthropic dalam pengajuan tersebut, dikutip dari Reuters, Selasa (29/9).

Meskipun Anthropic menyebut potensi transformatif AI seperti industrialisasi dan listrik, perusahaan secara gamblang juga menekankan risiko kerusakan permanen yang ditimbulkan produk tersebut jika salah penanganan.

Anthropic menggunakan sekitar 80 dari 261 halaman dalam dokumen IPO-nya hanya untuk membahas faktor risiko. Jumlah ini hampir dua kali lipat dibanding penjelasan bisnis mereka sendiri yang hanya terdiri dari 48 halaman.

Sebagai perbandingan, SpaceX yang mengembangkan xAI hanya menggunakan sekitar 38 dari 277 halaman untuk membahas faktor risiko.

"Kesadaran model terhadap upaya evaluasi kami menciptakan keterbatasan signifikan pada kemampuan kami untuk menilai keamanan model," kata Anthropic dalam dokumen tersebut.

Perusahaan juga mengungkap model AI tersebut terkadang mengembangkan kemampuan yang tidak terduga selama pelatihan yang mungkin tidak ditemukan sampai model tersebut digunakan dan mengakibatkan insiden keselamatan yang signifikan.

Walau sangat mengutamakan faktor keselamatan AI, Anthropic mengatakan pihaknya belum bisa memastikan apakah dana besar yang mereka gelontorkan untuk riset keamanan dan keselamatan ini akan menghasilkan keuntungan yang sepadan.

Dalam pengajuan tersebut, perusahaan tidak mengungkapkan berapa banyak biaya yang dihabiskan untuk riset keamanan tersebut. Awal bulan ini, Anthropic mengatakan sekitar 6 persen dari daya komputasi yang digunakan untuk penelitian AI digunakan untuk pekerjaan keselamatan di salah satu pekan bulan Juli.

Perusahaan pengembang Claude AI tersebut menggambarkan upaya keselamatan membutuhkan banyak sumber daya, sehingga pihaknya terpaksa membagi anggaran dan kapasitasnya yang terbatas untuk menyeimbangkan kebutuhan komputasi, perekrutan talenta AI, serta riset keselamatan.

Anthropic mengatakan pemasukannya sangat bergantung pada inovasi model-model terbarunya. Mereka baru merilis versi terbaru model Opus-nya pekan lalu, 10 hari setelah CEO Dario Amodei menerbitkan esai 4.000 kata tentang masa depan dan seruan untuk memperlambat perkembangan AI.

Anthropic diperkirakan akan melantai di bursa paling cepat pada pertengahan hingga akhir Oktober 2026 atau bergeser setelah pemilu sela AS pada November 2026.

Dalam beberapa minggu terakhir, Anthropic telah berjanji untuk mengungkapkan lebih banyak data secara publik tentang bagaimana mereka menggunakan model AI untuk membangun generasi teknologi masa depan, seiring para ahli memperingatkan tentang recursive self-improvement, titik di mana model dapat berkembang sendiri tanpa bantuan manusia.

"Kami percaya bahwa membangun sistem AI yang andal, tepercaya, dan aman adalah tanggung jawab bersama dan bahwa pasar akan menghargainya," kata Anthropic dalam dokumen tersebut.