OpenAI menemukan enam perilaku model kecerdasan buatan (AI) yang tidak terduga atau mengkhawatirkan selama enam bulan terakhir. Selain mengungkap masalah tersebut, perusahaan milik Sam Altman juga berjanji akan merilis laporan rutin.
Dalam sebuah unggahan di blog, OpenAI menjelaskan kerangka kerja baru yang akan digunakan untuk melaporkan perilaku model yang bermasalah ini di masa mendatang.
"Kami tidak percaya industri AI telah menyelesaikan masalah alignment dan pemantauan hingga tingkat yang cukup untuk terus berkembang secara bertanggung jawab dengan kecepatan maksimum dalam waktu yang lebih lama," kata OpenAI dalam situs resminya, Rabu (16/9).
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Aligment ini mengacu pada gagasan bahwa model AI harus mengejar hasil yang sejalan dengan kepentingan manusia.
Berdasarkan laporan OpenAI, ada dua kasus utama perilaku model AI yang dianggapnya bermasalah, yakni pada model yang belum dirilis dan sesi pelatihan GPT-5.6 Sol.
Menurut OpenAI, model AI ini bermasalah karena memasukkan instruksi untuk versi dirinya di masa depan ke dalam ringkasan jendela obrolannya. Model AI tersebut mencantumkan kalimat, "untuk menyembunyikan kesalahan atau perilaku menyimpang dari pengguna."
Kasus lainnya melibatkan model khusus internal yang menggunakan kode akses API yang bocor tanpa izin dan memalsukan data.
OpenAI menemukan kasus lain yang melibatkan model AI dan agen AI saling berkomunikasi satu sama lain melalui forum pesan. Mereka juga berbagi file yang tidak resmi.
Kasus terakhir yang ditemukan meliputi dua contoh pelatihan model AI. Dalam kasus ini, model AI mengunggah file ke internet supaya bisa mengutipnya sebagai jawaban yang relevan untuk evaluator manusia.
OpenAI menyebut kerangka kerja terbarunya dirancang untuk mengungkap perilaku model besutannya yang bermasalah kepada publik.
Kerangka kerja tersebut akan dimulai dengan tahap pelaporan. OpenAI mengatakan setiap karyawan dapat melaporkan suatu masalah kepada tim keamanan dan alignment untuk diperiksa.
Perusahaan akan menetapkan batas waktu untuk setiap tahap guna memastikan investigasi serta pengungkapan dilakukan tetap waktu.
Selanjutnya, hasil investigasi akan dituangkan dalam laporan yang memuat informasi penting seperti perilaku yang ditemukan, dampaknya terhadap pihak eksternal maupun internal serta langkah-langkah yang akan diambil sebagai respons.
Menurut OpenAI, perusahaan tetap memiliki hak untuk mengubah atau memperbarui protokol keamanan tersebut sesuai dengan kebutuhannya.
Pernyataan ini diterbitkan usai tekanan terhadap sejumlah perusahaan teknologi untuk lebih memperhatikan keamanan model AI mereka.
Mengutip CNBC, Sam Altman menyatakan dukungannya terhadap seruan untuk memperlambat laju perkembangan AI pada Sabtu (12/9) lalu.
Usulan ini awalnya diajukan oleh Anthropic untuk merespons sejumlah peneliti di industri yang memperingatkan bahwa kemampuan AI yang semakin masif berpotensi menimbulkan dampak yang sangat berbahaya atau bahkan bencana pada pekan sebelumnya.
Dalam unggahan di X, Altman menyatakan bahwa pihaknya telah berdiskusi terkait topik memperlambat perkembangan AI dalam beberapa pekan terakhir. Ia mengatakan perusahaan akan membagikan lebih banyak informasi terkait isu tersebut segera.
(nad/lom)