Facebook Siapkan Kecerdasan Buatan Demi Cegah Bunuh Diri

Jakarta, CNN Indonesia -- Facebook mengumumkan bahwa mereka tengah menguji kecerdasan buatan (AI) untuk diintegrasikan dengan layanan mereka selama beberapa bulan terakhir di AS.

Kecerdasan buatan ini dikembangkan untuk menemukan orang yang berpotensi memiliki rencana untuk bunuh diri. Cara kerjanya yakni ketika menemukan seseorang yang berada dalam bahaya, perusahaan akan memberikan bendera pada postingan orang tersebut untuk diteruskan ke bagian moderator yang akan merespons dengan mengirimkan ahli kesehatan mental.

Dalam kondisi yang lebih darurat, moderator yang menggunakan sumber daya manusia untuk menemukan orang yang dalam keadaan bahaya tersebut.

Lihat juga: Hoax, Atur Ulang WhatsApp Tak Buat Ponsel Kian Kencang

CEO Facebook Mark Zuckerberg dalam postingannya menulis bahwa pihaknya berharap alat ini akan membuktikan bahwa AI saat ini bisa digunakan untuk menyelamatkan nyawa banyak orang. Dia sesumber software tersebut telah membantu Facebook merespons lebih dari 100 kasus.

"Jika kita bisa menggunakan AI untuk membantu orang agar mereka selalu ada untuk keluarga dan teman, itu adalah hal yang penting dan langkah positif ke depan," tulisnya.

Hanya saja, Facebook tidak secara detil menjelaskan bagaimana kerja AI. Perusahaan hanya mnegatakan AI dilatih untuk mengidentifikasi postingan dan pesan yang pernah ditandai berbahaya oleh pengguna lain sebelumnya.

Teknologi ini juga menguji siaran live untuk mengidentifikasi bagian video yang mendapatkan lebih banyak komentar, reaksi dan laporan. AI akan mencari kata-kata kunci seperti "apakah kamu baik-baik saja" atau "adakah yang bisa kubantu?" dalam kolom komentar dari postingan pengguna.

Lihat juga: Duka Netizen Iringi Kepergian Bondan 'Maknyus' Winarno

Moderator manusia yang akan memainkan peran penting dalam menentukan apakah pengguna Facebook sedang dalam kondisi kesulitan.

Facebook juga akan memprioritaskan laporan untuk pengguna dalam keadaaan darurat. Alat akan langsung menampilkan info dalam bahasa lokal dan kontak orang yang bisa dihubungi untuk penanganan bunuh diri. Perusahaan mengklaim sejauh ini telah bermitra dengan 80 partner lokal untuk menangani kasus ini.

VP manajemen produk Guy Rosen menyebut AI dikembangkan untuk memperpendek beberapa menit setiap langkah, terutama di Facebook Live untuk bunuh diri. "Ada kasus di mana responden pertama tiba dan orang yang mencoba bunuh diri itu masih menyiarkan percobaannya."

Dalam sebuah penelitian, data yang digunakan di rumah sakit menunjukkan akurasi AI mencapai 80-90 persen dalam menemukan orang yang berniat mengakhiri hidupnya. Dengan kata lain, data itu tidak umum merepresentasikan populasi yang cukup besar.

Lihat juga: Google cs Sapu Bersih 786 Situs Pembajak di Rusia

Di sisi lain, kemampuan AI Facebook untuk memantau orang yang berniat bunuh diri justru menuai kekhawatiran. Selain sempat dituding berkerjasama dengan NSA untuk memata-matai penggunanya, kali ini Facebook diduga telah mempelajari data pengguna dan membuat sebuah penilaian sensitif.

Facebook memang tidak secara gamblang memberikan penjelasan atas antisipasi penyalahgunaan sistem AI miliknya. Kepala keamanan utama Facebook, Alex Stamos menanggapi kekhawatiran tersebut dalam kicauannya di Twitter.

"Penggunaan AI yang menyeramkan / menakutkan / berbahaya akan menjadi risiko selamanya. Oleh karena itu penting untuk menetapkan norma yang baik saat ini di seputar penggunaan data versus utilitas dan memikirkan tentang bias yang merayap masuk juga," cuitnya seperti dilaporkan The Verge.

Teknologi ini kabarnya akan dirilis untuk pengguna di seluruh dunia, kecuai Uni Eropa. Hal itu lantaran AI dianggap melakukan profiling pengguna yang melanggar hukum di sana. (evn)