Dipakai di Kasus Ade Armando, Face Recognition Punya Akurasi Lemah

Dikutip CBS News, hal yang menjadi hambatan utama dalam menjalankan metode face recognition adalah ketiadaan sistem analisis wajah yang benar-benar akurat.

Teknologi face recognition milik Amazon, Rekognition, pernah mengidentifikasi wajah presenter kenamaan asal AS Oprah Winfrey sebagai laki-laki. Namun itu hanya satu contoh penting kegagalan perangkat lunak ini.

Alat identifikasi wajah lainnya tahun lalu salah menandai seorang mahasiswa Brown University sebagai tersangka dalam pemboman Sri Lanka, dan mahasiswa tersebut kemudian menerima ancaman pembunuhan.

"Jika Anda melihat tiga perusahaan teratas, tidak satu pun dari mereka memiliki akurasi 100 persen," kata Rashida Richardson, direktur penelitian kebijakan di AI Now Institute.

Penelitian menunjukkan kesalahan ini bukanlah penyimpangan. Sebuah studi MIT dari tiga sistem pengenalan gender komersial menemukan face recognition memiliki tingkat kesalahan hingga 34 persen untuk wanita berkulit gelap, dan meningkat kesalahanya hampur 49 kali lipat untuk pria kulit putih.

Sebuah studi Departemen Perdagangan AS akhir tahun lalu menunjukkan temuan serupa.

Melihat contoh di mana algoritma salah mengidentifikasi dua orang yang berbeda sebagai orang yang sama, penelitian ini menemukan tingkat kesalahan untuk pria dan perempuan Afrika dua kali lipat lebih tinggi daripada orang Eropa Timur, yang menunjukkan tingkat terendah.

Para peneliti menemukan algoritma memiliki tingkat kesalahan tertinggi untuk penduduk asli Amerika serta tingkat tinggi untuk wanita Asia dan kulit hitam.

Infografis Perkembangan Kecerdasan Buatan Dari Masa ke Masa. (Foto: Laudy Gracivia)

Sementara, perusahaan teknologi besar mulai memikirkan ulang opsi pengembangan kecerdasan buatan dalam teknologi pengenalan wajah mereka. Amazon sempat mengumumkan jeda satu tahun dalam penggunaan Rekognition, pada 2020, setelah mendapat tekanan dari para aktibvis HAM.

Senada, IBM mengaku tak melirik sama sekali penelitian teknologi pengenalan wajah dengan alasan kekhawatiran tentang implikasinya terhadap HAM.

"Kami takut dengan begitu banyaknya gambar yang di-posting di media sosial oleh pengunjuk rasa akan dipakai oleh polisi untuk melawan mereka," kata Albert Fox Cahn, Direktur Eksekutif Proyek Pengawasan Teknologi Pengawasan.

"Sangat mengerikan untuk berpikir bahwa terlibat dalam aktivitas yang dilindungi, menggunakan hak Anda yang paling mendasar, [malah] dapat membuat Anda masuk ke database polisi," lanjutnya.

Hal yang ditakutkan Cahn itu lah yang kini menerpa Abdul Manaf yang sempat ditetapkan sebagai tersangka padahal tak ada di lokasi demo di depan Gedung DPR itu.

Sejauh ini, belum ada penelitian lebih lanjut soal algoritma yang dipakai dalam face recognition yang dipakai Polri.