Israel Pakai AI Buat Pilih Target Pengemboman di Gaza, Akuratkah?

Sumber tersebut mengatakan ada saat-saat dimana ada keraguan mengenai target dan mereka membunuh warga sipil yang menurutnya jumlahnya tidak proporsional.

Seorang juru bicara militer Israel mengatakan "Sebagai tanggapan terhadap serangan biadab Hamas, IDF beroperasi untuk membongkar kemampuan militer dan administratif Hamas."

"Berbeda sekali dengan serangan yang disengaja oleh Hamas terhadap pria, wanita, dan anak-anak Israel, IDF mengikuti hukum internasional dan mengambil tindakan pencegahan yang layak untuk mengurangi kerugian sipil," lanjut sumber tersebut.

Sumber yang mengetahui bagaimana sistem berbasis AI diintegrasikan ke dalam operasi IDF mengatakan bahwa alat tersebut telah mempercepat proses pembuatan target secara signifikan.

"Kami menyiapkan target secara otomatis dan bekerja sesuai checklist," kata seorang sumber yang sebelumnya bekerja di divisi penargetan.

"Ini benar-benar seperti pabrik. Kami bekerja cepat dan tidak ada waktu untuk mendalami target. Pandangannya adalah kami dinilai berdasarkan berapa banyak target yang berhasil kami hasilkan." tambahnya.

Sumber lainnya mengatakan kepada publikasi tersebut bahwa The Gospel telah mengizinkan IDF untuk menjalankan "pabrik pembunuhan massal" yang penekanannya adalah pada kuantitas dan bukan pada kualitas.

Mata manusia, kata mereka, akan memeriksa target sebelum setiap serangan, namun tidak perlu menghabiskan banyak waktu untuk mengamatinya.

Bagi beberapa ahli yang meneliti AI dan hukum humaniter internasional, percepatan seperti ini menimbulkan sejumlah kekhawatiran.

Dr Marta Bo, peneliti di Stockholm International Peace Research Institute, mengatakan penggunaan AI ini berisiko mengembangkan "bias otomasi" dan "terlalu bergantung pada sistem yang memiliki pengaruh terlalu besar terhadap sistem keputusan manusia yang kompleks."

Moyes mengatakan bahwa ketika mengandalkan alat seperti The Gospel, seorang komandan "diberikan daftar target yang telah dibuat oleh komputer."

Mereka "belum tentu mengetahui bagaimana daftar [sasaran] tersebut dibuat atau memiliki kemampuan untuk menginterogasi dan mempertanyakan rekomendasi penargetan secara memadai."

"Ada bahayanya, ketika manusia bergantung pada sistem ini, mereka menjadi roda penggerak dalam proses yang mekanis dan kehilangan kemampuan untuk mempertimbangkan risiko kerugian sipil dengan cara yang berarti," tandas dia.