Algoritme Facebook Belum Bisa Tangkal Ujaran Kebencian

Jakarta, CNN Indonesia -- Konten pornografi menjadi jenis konten yang paling banyak dibersihkan Facebook melalui teknologinya dalam beberapa bulan terakhir. Namun, untuk urusan ujaran kebencian, teknologi Facebook nampak masih kesulitan mengidentifikasi.

Sekitar 21 juta konten dewasa dicabut dari Facebook dalam periode Januari hingga Maret 2018. Mesin Facebook berhasil mendeteksi 96 persen keberadaan konten telanjang dan seksual dengan akurat bahkan sebelum ada laporan dari pengguna.

Laporan transparansi Facebook secara berkala memperkirakan dari setiap 10 ribu konten yang ada, sekitar tujuh hingga 9 melanggar ketentuan pornografi dan konten bermuatan pose telanjang.

Lihat juga: Prinsip 'Indahnya Berbagi' Bikin Hoaks Makin Cepat Berkembang

Ketajaman deteksi sistem Facebook tak terjadi dalam mengejar konten ujaran kebencian. Algoritme mereka hanya mampu menandai 38 persen dari total 2,5 juta konten bernada kebencian.

"Untuk ujaran kebencian, teknologi kami belum bekerja begitu baik sehingga masih perlu diperiksa oleh tim peninjau kami," ucap VP Product Management Facebook, Guy Rosen dalam blog resminya.

Pengakuan Rosen tersebut menegaskan bahwa ada kendala berarti dari perusahaan teknologi dalam menanggulangi ujaran kebencian yang melanda media sosial dewasa ini. Kendati demikian, kinerja algoritme Facebook masih terbilang bagus lantaran ia berhasil melumpuhkan 583 juta akun palsu dan menghapus 837 juta spam.

Lihat juga: Kominfo Pantau Akun Penyebar Teror di Facebook cs

Sementara pada konten yang menampilkan kekerasan, sistem Facebook berhasil menemukan 3,5 juta konten. Sekitar 86 persen di antaranya hasil kerja algoritme mereka.

Yang tak kalah penting adalah penanganan konten berbau terorisme. Sekitar 1,9 juta konten berafiliasi dengan ISIS, Al Qaeda, dan lainnya, berhasil ditemui dalam kuartal pertama 2018.

Facebook menyatakan angka itu tergolong sangat rendah karena dari awal jumlahnya sedikit dan algoritme mereka berhasil mendeteksi 99,5 persen dari jumlah itu sebelum terlihat oleh pengguna lain. (age)