AI Mau Direm, Pakar Ungkap Risiko Jika Laju Tak Terkendali
Pakar kecerdasan buatan (AI) buka suara terkait wacana perusahaan-perusahaan AI asal Amerika Serikat seperti OpenAI, Anthropic, dan Grok untuk memperlambat teknologi besutannya yang menganggap AI yang semakin cerdas dapat membahayakan manusia.
Anggota AI Safety Institute Indonesia (AISII) Alva Erwin menyatakan bahwa potensi AI yang mengancam eksistensi manusia memang nyata jika dibiarkan tanpa kendali. Perkembangannya serupa dengan socio-technology product yang memiliki risiko.
"Potensi AI mengancam eksistensi manusia memang nyata jika dibiarkan tanpa kendali. Seperti semua socio-technology product, AI juga memiliki risiko," Jelas Erwin kepada CNNIndonesia.com, Minggu (21/9).
Erwin menilai spektrum risiko pada AI bergerak dari level risiko rendah hingga berujung risiko katastropik (exsistential risk) yang dapat mengancam keberadaan manusia. Menurutnya, risiko ini harus dikendalikan supaya tidak memberikan dampak yang tidak diinginkan.
Menurut Erwin, ancaman ini terbagi dalam empat domain utama:
- Masalah internal model (intrinsic risk) seperti halusinasi dan bias, serta terciptanya super-intelligence.
- Masalah penyalahgunaan dengan niat jahat (misuse) untuk serangan siber atau disinformasi seperti deepfake.
- Dampak sosio-ekonomi-lingkungan (impact) berupa disrupsi tenaga kerja, krisis privasi, dampak lingkungan seperti kebutuhan energi dan air yang sangat tinggi.
- Kerapuhan sistem dan lambatnya regulasi (systemic & governance risks).
Dengan memperlambat laju pengembangan AI, kata Erwin, dapat memberi ruang untuk berbagai pihak untuk mempersiapkan diri, mulai dari masyarakat, industri, ilmuwan AI, dan regulator.
"Memperlambat laju pengembangan AI dapat memberi ruang dari berbagai perspektif stakeholders seperti masyarakat pengguna maupun masyarakat terdampak, industri pengembang AI, AI scientist serta pembuat kebijakan untuk membuat regulasi, etika, dan sistem keamanan yang dibutuhkan, sebelum teknologinya melompat terlalu jauh di luar kendali kita," ujar Erwin.
Erwin menyebut kekhawatiran terkait ancaman AI ini tertuang dalam sejumlah riset. Sebagai contoh, secara teoritis, sistem cerdas memiliki kecenderungan untuk memastikan tercapainya tujuan yang telah ditetapkan.
Meski demikian, pencapaian tujuan ini dapat menggunakan cara yang keliru dan bisa memiliki risiko merugikan manusia. Risiko ini akan semakin besar jika teknologi ini memiliki kemampuan recursive self-improvement.
Dalam kondisi ini, model AI mampu meriset, memperbaiki serta melatih dirinya sendiri tanpa campur tangan manusia. Hal ini dapat memicu ledakan kecerdasan yang di luar kendali manusia.
Di samping itu, Erwin menilai perdebatan mengenai ancaman AI tak lepas dari dinamika geopolitik antara Amerika Serikat dan China. Menurutnya, perdebatan ini kerap memicu pemikiran bahwa narasi bahaya AI dan upaya perlambatan hanyalah bentuk menakut-nakuti atau fearmongering.
"Seruan pembatasan dan perlambatan riset ini kerap dicurigai sebagai upaya untuk menghalangi kemajuan dari pihak lawan, sekaligus menjaga keunggulan kompetitif industri tertentu di kancah persaingan global," katanya.
Apa dampaknya ke industri?
Dari sisi industri, perlambatan pengembangan model AI paling mutakhir (frontier model) yang dilakukan oleh sejumlah perusahaan besar dinilai dapat mengubah arah persaingan teknologi AI.
Menurut Erwin, pengembangan AI diperkirakan tidak akan lagi semata-mata berfokus untuk memperbesar ukuran dan kemampuan model, namun bergeser menjadi upaya membuat model lebih efisien dan andal.
"Industri akan beralih dari sekadar memperbesar ukuran model (frontier scalling) menuju optimalisasi model yang lebih ramping, arsitektur RAG yang presisi serta metode kompresi (quantization) untuk meningkatkan efisiensi.
Selanjutnya, upaya ini juga akan berdampak pada penerapan pengawas independen mirip regulator perbankan atau pasar modal, kata Erwin. Namun, hal ini akan menambah beban biaya compliance yang kemungkinan hanya mampu dipenuhi oleh raksasa teknologi.
Kemudian, perlambatan laju pengembangan AI dapat berdampak pada pertumbuhan ekosistem sumber terbuka (open source).
"Bila model tertutup (proprietary) melambat, komunitas open-source berpotensi mengisi kekosongan, kecuali jika regulasi juga mencakup pembatasan komputasi perangkat keras (hardware/GPU export limits)," tutup Erwin.
(nad/dmi)