Jakarta, CNN Indonesia -- Sejumlah peneliti Google DeepMind mengundurkan diri dari perusahaan lantaran menolak teknologi kecerdasan buatan (AI) besutannya digunakan untuk operasi militer.
Sofia Ligouri, salah satu insinyur riset berasal dari Inggris mengundurkan dari Google DeepMind pekan lalu. Ia berbicara soal kekhawatirannya kontrak antara Google dengan militer yang tengah berlangsung.
"Menyadari bahwa perusahaan tempat saya bekerja semakin mendorong penggunaan sistem AI dalam operasi militer membuat saya merasa malu bekerja di Google," ungkap Ligouri kepada BBC, Kamis (22/10).
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Setelah bekerja di Google selama tiga tahun, Ligouri mengatakan dirinya untuk memutuskan mengundurkan diri karena meningkatnya kerja sama Google dengan militer Amerika Serikat (AS) dan Israel.
Menurutnya, langkah yang diambil perusahaan tidak sesuai dengan prinsip dan nilai-nilai yang selama ini diterapkan.
"Saya tidak setuju dengan arah ini. Hal tersebut membuat saya kehilangan kepercayaan bahwa perusahaan saya benar-benar berpegang pada nilai-nilai etika yang selama ini mereka nyatakan," tambahnya.
Berdasarkan prinsip AI Google, nilai-nilai etika yang disinggung oleh Ligouri mencakup penerapan AI dengan "pengawasan manusia" serta penyelarasan teknologi dengan "hukum internasional dan hak asasi manusia".
Namun demikian, sejumlah mantan dan karyawan Google yang masih bekerja di perusahaan, serta para ahli yang diwawancarai oleh BBC mengaku khawatir teknologi AI yang digunakan untuk keperluan militer mungkin bertindak atau mengambil keputusan di situasi genting tanpa kendali atau campur tangan manusia yang memadai.
Para pekerja teknologi tersebut mengatakan bahwa mereka secara khusus mengkhawatirkan kesepakatan AI untuk keperluan militer yang ditandatangani tahun ini. Pasalnya, kesepakatan tersebut secara signifikan memperluas cakupan penggunaan teknologi AI yang diizinkan Pentagon, markas besar Departemen Pertahanan AS.
Seorang peneliti AI lainnya di Google DeepMind bernama Andreas Krisch, turut mengundurkan diri dari perusahaan pada awal bulan ini karena kekhawatiran yang sama. Krisch menilai tata kelola dan pengawasan Google belum memadai atau belum cukup berarti untuk menerapkan AI secara aman dan bertanggung jawab dalam lingkungan dan operasi militer yang bersifat rahasia.
Ia turut menyebut sistem AI milik Google belum cukup aman untuk mengembangkan kecerdasan super (superintelligence)" di masa depan.
"Google tampaknya tidak memiliki hak untuk mengendalikan atau memveto cara Pentagon menggunakan AI mereka. Google juga tampaknya memiliki akses informasi yang terbatas mengenai bagaimana teknologi tersebut diterapkan," jelas Krisch.
Sejumlah karyawan Google turut mengatakan mereka takut berbicara secara terbuka mengenai keselamatan AI dan penggunaannya dalam peperangan. Pasalnya, kontrak kerja mereka melarang kritik terbuka terhadap perusahaan.
Meski demikian, Ligouri tetap menyampaikan kritiknya. Menurutnya, membicarakan fakta bukanlah tindakan mengkritik.
"Pada prinsipnya, saya tidak diizinkan untuk mengkritik Google seumur hidup saya. Karena saya percaya hal-hal seperti ini perlu diketahui. Saya juga berpikir bahwa membicarakan fakta bukanlah tindakan mengkritik," tutur Ligouri.
"Orang-orang takut mendapatkan tindakan balasan dan mempertaruhkan karir mereka. Mereka merasa sedang diawasi dan tidak bisa berbicara secara terbuka," tambahnya.
Merespons hal tersebut, juru bicara Google mengatakan bahwa mereka bekerja sama dengan organisasi sektor publik di seluruh dunia dan mengikuti proses yang konsisten dalam meninjau maupun menjalin kontrak tersebut.
Menurutnya, proses ini mencakup kepatuhan terhadap kebijakan penggunaan yang dapat diterima dan prinsip-prinsip AI perusahaan.
"Kami juga memiliki saluran khusus bagi karyawan untuk menyampaikan kekhawatiran dengan aman, mulai dari masalah etika bisnis hingga pelanggaran. Kami juga menerapkan kebijakan tempat kerja yang ketat untuk mencegah segala bentuk tindakan balasan terhadap karyawan," kata juru bicara Google kepada BBC.
Kekhawatiran Penggunaan AI di Medan Perang Meningkat
Ilustrasi. Kekahwatiran terhadap penggunaan AI di medan perang semakin meningkat. (Foto: istockphoto/gorodenkoff)
Google merupakan salah satu dari sejumlah perusahaan teknologi yang menandatangani kontrak dengan militer AS pada awal tahun ini untuk menerapkan AI diberbagai lingkungan militer yang bersifat rahasia. Kontrak ini mengizinkan teknologi AI perusahaan tersebut digunakan untuk pekerjaan militer yang bersifat rahasia.
Dalam perjanjian tersebut disebutkan model AI Google dapat digunakan untuk "segala tujuan pemerintah yang sah secara hukum". Namun, teknologi tersebut "tidak boleh digunakan untuk pengawasan massal terhadap warga sipil dalam negeri atau senjata otonom tanpa pengawasan dan kendali manusia yang sesuai."
Seiring perkembangan teknologi yang semakin cepat, BBC menyebut kekahwatiran terhadap penggunaan AI di medan perang semakin meningkat.
Menteri Pertahanan AS Pete Hegseth menjadikan integrasi AI ke dalam angkatan bersenjata sebagai prioritas utama. Ia mengatakan pemerintahan Trump akan menjadikan milter AS sebagai kekuatan tempur yang mengutamakan AI.
Kesepakatan serupa juga ditandatangani oleh OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia dan perusahaan rintisan Reflection. Kesepakatan ini memungkinkan teknologi AI digunakan dalam berbagai kegiatan militer seperti transportasi, perencanaan, dan operasi di medan perang.
Sarah Shoker, eks kepala tim Geopolitik OpenAI turut menyampaikan pendapatannya. Ia khawatir terhadap penggunaan AI di medan perang yang kian meningkat.
"AI memangkas waktu yang dimiliki seorang operator untuk mengambil keputusan karena AI bekerja jauh lebih cepat daripada manusia. Hal ini sangat berisiko, terutama dalam situasi yang penuh tekanan," kata Sarah.
"Ketika ada ratusan terget yang dipilih oleh AI dan waktu yang tersedia sangat singkat, hampir mustahil bagi operator manusia untuk memeriksa hasil yang diberikan oleh AI secara menyeluruh dan memastikan tidak ada kesalahan," tambahnya.
Dalam beberapa tahun terakhir, militer AS telah menerapkan berbagai teknologi berbasis AI untuk meningkatkan kemampuan tempurnya.
Salah satu contoh yang paling menonjol adalah Maven Smart System, platform perangkat lunak utama Pentagon yang digunakan untuk mengelola informasi intelijen dan data.
Platform ini dikembangkan oleh perusahaan AS bernama Palantir. Sistem ini menggunakan AI untuk membantu personel militer memilih dan mengidentifikasi target serangan.
Palantir telah mengintegrasikan teknologi dari sejumlah perusahaan AI terkemuka ke dalam Maven. Integrasi ini disebut memungkinkan beberapa proses dilakukan jauh lebih cepat.
Letnan Jenderal Purnawirawan sekaligus mantan direktur Project Maven, Jack Shananhan mengatakan bahwa filosofi yang diterapkan tampaknya adalah sebisa mungkin bergerak cepat untuk menerapkan teknologi AI secara luas, meskipun hal itu berpotensi mengorbankan ketelitian dan kedisiplinan dala proses pengujian serta evaluasi.
Namun, Pentagon tetap berpendapat bahwa penggunaan teknologi AI sangat penting untuk peperangan.
"Kecepatan menentukan kemenangan di era AI," kata Emil Michael, salah satu pejabat tinggi di Pentagon dalam sebuah pernyataan terpisah awal tahun ini.
[Gambas:Photo CNN]
