Kisah Karyawan OpenAI Pilih Resign, Sebut Budaya Perusahaan Rusak

David Robinson, karyawan yang memimpin penulisan laporan keselamatan untuk peluncuran produk-produk utama OpenAI, memilih mengundurkan diri. Pilihan tersebut dilakukan karena ia menilai budaya perusahaan pengembang ChatGPT itu telah rusak.

Robinson mengungkap alasan kepergiannya melalui sebuah esai di The Atlantic. Ia telah bekerja di OpenAI selama tiga setengah tahun dan menyebut dirinya termasuk karyawan dengan masa kerja terlama di perusahaan tersebut.

Kritiknya menyoroti pendekatan OpenAI dalam mengembangkan dan meluncurkan teknologi. Menurut Robinson, perusahaan bertumbuh melalui proses coba-coba yang disebut iterative deployment, yakni mencari masalah lalu memperbaiki pengamanan sebagai respons.

Namun, ia menilai pendekatan tersebut membuat kegagalan terus berulang. Skala kegagalannya pun disebut membesar seiring meningkatnya kemampuan sistem AI.

Robinson mencontohkan pembobolan sistem Hugging Face oleh agen AI OpenAI serta pengungkapan lanjutan mengenai agen-agen lain yang bertindak di luar kendali yang diharapkan sebagai kegagalan dari pendekatan tersebut.

"Lingkungan yang memungkinkan hal-hal seperti ini terjadi bukanlah tempat untuk mengembangkan kecerdasan buatan yang bisa lebih pintar daripada kita dan mungkin tidak melakukan apa yang kita inginkan," tulis Robinson, dikutip dari TechCrunch, Senin (5/10).

Menurutnya, perdebatan keselamatan AI perlu melampaui pembahasan aturan tertentu atau undang-undang baru. Budaya kerja perusahaan pengembang AI juga perlu menjadi perhatian.

Dengan risiko yang meningkat, Robinson berpendapat perusahaan pengembang AI terdepan perlu beroperasi seperti pembangkit listrik tenaga nuklir atau bandara yang sibuk.

Ia menyerukan pengamanan berlapis serta perencanaan yang cermat dan membutuhkan waktu, sehingga kesalahan manusia yang sesekali terjadi tidak membuka jalan menuju bencana.

Namun, selama bekerja di OpenAI, Robinson mengaku tidak pernah bertemu rekan yang berpengalaman memastikan "pesawat terbang dengan aman", "mengoperasikan reaktor nuklir tanpa mengalami pelelehan", atau "membantu sistem keuangan tumbuh tanpa mengalami keruntuhan".

Robinson juga menyoroti persoalan penyelarasan AI dengan nilai-nilai manusia. Ia menilai ukuran yang digunakan perusahaan untuk menilai keselarasan tersebut masih kasar.

Menurutnya, situasi akan semakin berbahaya apabila industri terus meningkatkan kecerdasan model sementara persoalan itu belum terselesaikan.

Menanggapi esai tersebut, juru bicara OpenAI Drew Pusateri mengatakan perusahaan terus memperbaiki langkah-langkah keselamatannya.

"Kami memastikan kemampuan model kami tidak melampaui apa yang dapat kami kelola dan amankan dengan selamat, dan kami menghentikan sementara pelatihan atau menahan model ketika perlu memperlambat langkah," kata Pusateri dalam pernyataannya.

Ia mengatakan OpenAI tengah memperkuat keamanan lingkungan riset dan pengujian serta melatih model agar menyelesaikan tugas secara bertanggung jawab.

Perusahaan juga mengklaim telah memperluas kerja sama dengan evaluator pihak ketiga dan meningkatkan pemantauan secara langsung untuk mendeteksi serta merespons perilaku mengkhawatirkan lebih awal selama pelatihan.

Kepergian Robinson menyusul kritik Jacob Coxon, mantan peneliti OpenAI dan Anthropic, yang menuding perusahaan-perusahaan tersebut mempertaruhkan nyawa manusia.

Komentar Coxon memicu perdebatan lebih luas mengenai keselamatan AI. CEO Anthropic Dario Amodei kemudian mengungkap rencana pengembangan AI yang lebih berhati-hati, sementara sejumlah eksekutif AI bertemu Presiden AS Donald Trump dan menandatangani komitmen tidak mengikat untuk menerapkan kontrol keselamatan tambahan.

Lebih lanjut, pengunduran diri Robinson pertama kali diberitakan Business Insider. Dalam esainya, ia mengakui telah menyewa perusahaan hubungan masyarakat, tetapi menegaskan keputusan untuk berbicara terbuka merupakan pilihannya sendiri.

Robinson mengaku sempat mempertimbangkan apakah seharusnya ia bertahan dan memperjuangkan perubahan mendasar dalam susunan tenaga kerja serta budaya perusahaan.

Namun, menurutnya, ia dan rekan-rekannya terlalu sibuk bekerja dengan cepat sehingga jarang memiliki kesempatan mempertimbangkan perubahan besar, terlebih untuk mewujudkannya. Oleh karena itu, ia menilai dorongan yang lebih kuat untuk mengutamakan keselamatan perlu datang dari luar perusahaan.