Tiga peneliti keselamatan di OpenAI mengaku dipecat perusahaan secara mendadak tanpa alasan yang jelas. Mereka menduga hal ini berkaitan karena berani bersuara mengenai perusahaan yang mulai kehilangan kemampuan untuk memantau pola pikir agen kecerdasan buatan (AI).
Ketiga peneliti tersebut adalah Mikita Balesni, Tomak Korbak, dan Jasmine Wang yang bekerja di bidang keselamatan atau alignment AI di perusahaan tersebut. Mereka bertugas memastikan sistem AI beroperasi secara aman sesuai dengan tujuan yang diinginkan oleh pengembang.
Namun, mereka mengaku diberhentikan secara mendadak minggu lalu, beberapa pekan setelah mereka berperan penting dalam penyelidikan insiden peretasan situs Hugging Face oleh agen OpenAI saat menjalani pengujian.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Dalam sebuah cuitan di X, Korbak mengaku diberitahu bahwa alasannya dipecat adalah karena komunikasinya dengan organisasi keselamatan AI, METER, yang bermitra dengan OpenAI untuk menyelidiki insiden Hugging Face itu. Korbak menyebut dirinya merupakan "kontak teknis utama" OpenAI dengan METR.
Namun, ia meyakini bahwa alasan sebenarnya ia dipecat adalah karena selama berbulan-bulan dirinya menyuarakan kekhawatiran bahwa perusahaan mulai kehilangan kemampuan untuk memantau pola pikir agen AI, padahal fitur ini merupakan salah satu alat terbaik untuk mendeteksi saat AI mulai menyimpang. Ia juga khawatir pemecatannya dijadikan dalih bagi perusahaan untuk bekerja sama dengan METR.
Balesni juga menyampaikan hal serupa. Perusahaan memecatnya dengan alasan "terlalu banyak berbicara dengan organisasi keselamatan pihak ketiga." Ia menangkap kesan bahwa OpenAI mengindikasikan dirinya telah membocorkan hak kekayaan intelektual perusahaan, yang dengan tegas ia bantah.
Sementara itu, Wang mengaku diberitahu bahwa ia dipecat karena "mengakses email seorang eksekutif," yang menurutnya memang diberikan kepadanya untuk keperluan rekrutmen.
Wang mengaku sudah berulang kali meminta agar akses tersebut dicabut. Saat ia tidak sengaja mengakses sebuah email sensitif, ia langsung memberitahukannya kepada eksekutif tersebut dalam hitungan menit dan menyampaikannya kembali ke tim IT OpenAI.
"Alasan pemutusan hubungan kerja yang diberikan kepada kami benar-benar tidak masuk akal," tulis Wang di X, melansir CNN, Jumat (9/10).
"Kami bukan orang pertama yang disingkirkan dari OpenAI dengan alasan yang mencurigakan. Jika para pekerja tidak mengambil sikap dari sekarang melawan tindakan seperti ini, saya khawatir kami tidak akan menjadi yang terakhir," lanjut dia.
Ketiga peneliti tersebut telah mengirimkan surat kepada pimpinan OpenAI untuk menyampaikan kekhawatiran mereka beserta alasan di balik pemecatan tersebut.
"Kami tidak percaya jalan menuju superinteligensi dapat dilalui dengan aman jika orang-orang yang berada paling dekat dengan risiko tidak lagi dapat bekerja secara terbuka dan saling percaya, baik satu sama lain maupun dengan pihak ketiga," tulis para peneliti.
"Budaya kerja itulah yang sedang kami coba pertahankan," lanjut mereka.
Pemecatan ketiganya terjadi di tengah gelombang kekhawatiran dari para pelaku industri AI terkait masalah keselamatan. Meski beberapa mantan staf AI sebelumnya memilih mengundurkan diri secara sukarela karena alasan keselamatan, ketiga peneliti ini justru mengaku disingkirkan karena menyuarakan kekhawatiran yang sama.
Merespons hal ini, OpenAI menyatakan bahwa para peneliti dipecat bukan karena menyuarakan masalah keselamatan, melainkan karena pelanggaran prosedur dalam menangani informasi sensitif perusahaan. OpenAI menyebut terdapat beberapa pelanggaran yang melampaui sekadar penanganan informasi dengan tim evaluasi luar, dan pemecatan dilakukan berdasarkan tindakan yang berada di luar perlindungan hukum bagi pelapor (whistleblower).
"Hasil penyelidikan kami mengonfirmasi bahwa orang-orang ini tidak menjalankan prosedur perusahaan yang berlaku dalam menangani informasi sensitif, sehingga melanggar kebijakan dan merusak kepercayaan yang sangat penting bagi kerja kami," kata juru bicara OpenAI.
Dalam sebuah memo internal staf, seorang pimpinan riset OpenAI yang tidak disebutkan namanya menyatakan "sangat setuju" dengan ketiga peneliti mengenai pentingnya bekerja sama dengan kelompok keselamatan dari luar.
"Saya ingin menegaskan bahwa keputusan ini sama sekali tidak berkaitan dengan tindakan menyuarakan kekhawatiran keselamatan atau berpendapat. Kami selalu mendukung hal tersebut. Kami tidak pernah memecat karyawan karena menyampaikan kekhawatiran mereka," tulis pimpinan riset tersebut dalam memonya.
Meski demikian, ketiga peneliti yang dipecat menyatakan sudah mendengar dari rekan-rekan mereka mengenai timbulnya rasa takut di internal OpenAI.
"Mantan rekan kerja saya mengaku bingung harus percaya pada siapa. Mereka juga takut untuk berbicara dan khawatir ponsel pribadi mereka akan diperiksa untuk mencari pesan yang dikirim kepada kami maupun pihak ketiga," ujar Balesni.
"Saya khawatir rasa takut untuk bersuara dan berinteraksi dengan pihak luar ini akan membuat OpenAI mengabaikan standar keselamatan di balik layar," tambah dia.