WhatsApp Bakal Beri Label Chat Penipuan, Begini Cara Kerjanya

WhatsApp tengah menguji fitur baru bernama Scam Alert yang dapat memberikan peringatan ketika pesan yang diterima pengguna terindikasi sebagai penipuan.

Fitur opsional tersebut menggunakan model machine learning yang berjalan langsung di perangkat untuk mendeteksi pesan yang berpotensi scam.

Meta mengatakan Scam Alert saat ini masih diluncurkan secara terbatas dalam versi Beta sebelum nantinya tersedia untuk seluruh pengguna WhatsApp.

"Scam Alert adalah fitur baru dan opsional yang menjalankan model machine learning di perangkat untuk memperingatkan pengguna tentang potensi pesan penipuan," tulis Meta dalam keterangannya, Rabu (12/8).

Menurut Meta, fitur tersebut dikembangkan untuk menghadapi modus penipuan yang terus berkembang, mulai dari penyamaran identitas, rekayasa sosial, hingga modus yang menggunakan konten buatan AI.

Meta menyebut fitur Scam Alert tidak aktif secara otomatis. Pengguna harus terlebih dahulu mengaktifkannya.

Setelah diaktifkan, WhatsApp akan mengunduh model machine learning ke perangkat pengguna. Model tersebut kemudian akan mengklasifikasikan apakah pesan masuk dari nomor yang tidak tersimpan di kontak memiliki pola yang sesuai dengan modus penipuan yang telah diketahui.

Model ini, jelas Meta, dilatih menggunakan pola yang ditemukan dalam percakapan penipuan berdasarkan laporan yang sebelumnya dikirim pengguna kepada WhatsApp.

Sistem kemudian melakukan klasifikasi probabilistik dengan mempertimbangkan struktur percakapan dan sinyal linguistik.

Jika sebuah pesan teridentifikasi sebagai kemungkinan upaya penipuan, WhatsApp akan menampilkan peringatan di dalam chat. Peringatan tersebut hanya dapat dilihat penerima dan tidak terlihat oleh pengirim pesan.

Pengguna kemudian dapat memilih untuk memblokir pengirim, melaporkannya, atau tetap melanjutkan percakapan.

Jika sistem keliru memberikan peringatan, pengguna dapat menandai chat tersebut sebagai tepercaya. Peringatan kemudian akan dihapus dan Scam Alert tidak akan lagi memberikan tanda pada percakapan tersebut.

Pengguna yang menandai sebuah chat sebagai tepercaya juga dapat memilih untuk membagikan lima pesan terakhir yang diterima kepada WhatsApp untuk membantu meningkatkan akurasi fitur.

Pesan tetap diproses di HP

Meta menekankan proses deteksi Scam Alert dilakukan sepenuhnya di perangkat pengguna.

Pesan yang dianalisis model diklaim tidak dikirim keluar dari perangkat untuk proses klasifikasi dan tidak secara otomatis dilaporkan kepada WhatsApp, Meta, maupun pihak ketiga.

Menurut perusahaan, pendekatan tersebut membuat Scam Alert tetap berjalan berdampingan dengan perlindungan enkripsi end-to-end WhatsApp.

WhatsApp juga tidak dapat secara otomatis membagikan data pengguna ketika sistem menemukan indikasi penipuan.

Konten pesan, bahkan informasi bahwa sebuah scam telah terdeteksi, baru dapat sampai ke server WhatsApp apabila pengguna secara eksplisit memilih untuk melaporkannya.

Pengguna juga memiliki kendali untuk mengaktifkan atau mematikan Scam Alert kapan saja.

Meta mengatakan perkembangan model machine learning di perangkat memungkinkan klasifikasi teks dilakukan langsung melalui perangkat seluler tanpa kompromi performa, baterai, atau ukuran model yang sebelumnya membuat metode tersebut kurang praktis.

Sebelum diluncurkan secara luas, Meta mengatakan akan terus menguji Scam Alert bersama komunitas Bug Bounty dan meminta masukan dari peneliti keamanan.