Bapak AI Dunia Wanti-wanti 'Ledakan Kecerdasan,' Ini Pemicunya

Para peneliti kecerdasan buatan (AI), termasuk "Bapak AI" dunia, menerbitkan riset yang kembali mewanti-wanti pemerintah untuk bersiap menghadapi "ledakan kecerdasan" AI.

Sebuah riset berjudul "Bagaimana jika otomatisasi R&D AI memicu ledakan kecerdasan?" melibatkan 22 peneliti termasuk Yoshua Bengio dan Geoffrey Hinton yang dianggap sebagai bapak AI modern.

Selain itu, riset ini juga melibatkan salah satu pendiri Anthropic Jack Clark dan kepala ilmuwan OpenAI Jakub Pachocki.

Riset yang baru diterbitkan di jurnal Cambridge Programme on AI Science & Policy (CASP) tersebut mendesak para pembuat kebijakan untuk bertindak segera sebelum terjadi kemajuan yang tak terkendali dari teknologi tersebut.

Melansir The Guardian, para penulis mengungkapkan keprihatinan tentang "ledakan kecerdasan" yang mereka gambarkan sebagai percepatan drastis kemajuan AI akibat AI itu sendiri dalam proses recursive self-improvement (RSI) atau penelitian dan pengembangan (R&D) AI secara otomatis.

Menurut riset tersebut, seorang pengembang AI dapat menjalankan tenaga kerja yang setara dengan jutaan peneliti manusia terbaik karena otomatisasi penelitian dan pengembangan oleh AI itu sendiri.

"Ledakan kecerdasan buatan bisa menjadi perkembangan teknologi paling penting dalam sejarah manusia, memadatkan kemajuan bertahun-tahun menjadi beberapa bulan atau kurang, mengancam kendali manusia atas sistem AI, dan sangat mengikis pengawasan kekuasaan di dalam dan antar negara, perusahaan, dan cabang pemerintahan," tulis para peneliti di studi tersebut.

Mereka lantas merekomendasikan tiga prioritas kebijakan, yakni mewajibkan laporan kemajuan yang transparan tentang penelitian dan pengembangan terkait AI; menemukan cara untuk membatasi perkembangan AI yang sangat pesat; serta bersiap untuk beradaptasi dengan ledakan kecerdasan buatan ini.

Dalam hal ini, Anthropic dan OpenAI telah sama-sama bersepakat untuk meminta evaluator atau auditor independen untuk menilai model mereka setelah memperingatkan bahwa pengembangan AI telah melampaui batasan aman.

Anthropic menyatakan bahwa AI kini menghasilkan 80 persen kode programnya sendiri, sementara OpenAI menggunakan agen AI otonom di berbagai bidang termasuk pelatihan model baru.

Penelitian menunjukkan bahwa ledakan kecerdasan akibat perangkat lunak AI itu sendiri dapat menyebabkan perkembangan yang sangat cepat dari sistem yang sangat mumpuni atau superhuman AI system.

Meskipun dapat menghasilkan dampak positif misalnya dalam bidang medis dan teknologi lainnya, ledakan kecerdasan membawa tiga risiko termasuk ancaman biologis dan siber, hilangnya kendali dan keterlibatan manusia, serta ancaman perang antarnegara.

Peneliti menyebut dampak-dampak ini memang tidak pasti terjadi, dan terobosan teknologi mungkin membutuhkan waktu untuk diimplementasikan.

Namun, mereka menegaskan bahwa sistem AI juga dapat berpotensi mempercepat proses mitigasi risiko dan menjaga arah kemajuan teknologi ini. Menurut mereka, hal ini perlu menjadi salah satu prioritas pemerintah.

Mereka mendesak pembuat kebijakan untuk segera bertindak melalui transparansi progres, pembatasan kecepatan pengembangan, kerja sama penghentian proyek dengan pusat data, isolasi sistem otomatis, serta membuat rencana tanggap darurat ledakan kecerdasan buatan tersebut.

"Peningkatan produktivitas dari otomatisasi R&D AI belum mencapai ambang batas yang dibutuhkan untuk memicu ledakan kecerdasan, tetapi peningkatan dari sistem yang lebih baru kemungkinan mendekati ambang batas tersebut," tulis para peneliti.