Bukan Manusia, Kini AI yang Jawab Panggilan Darurat 911

New Orleans menjadi kota besar pertama di Amerika Serikat yang menggunakan kecerdasan buatan (AI) untuk menjawab langsung panggilan darurat 911. Sistem ini bakal menganalisis panggilan untuk memprioritaskan situasi darurat yang harus ditangani manusia.

Dinas Komunikasi Distrik Orleans (OPCD) mengalihkan panggilan 911 ke agen AI. Sistem ini akan menentukan panggilan mana yang perlu diteruskan ke petugas manusia dan mana yang bisa ditangani langsung oleh sistem secara otomatis.

Keputusan ini diambil, karena mereka menerima lebih dari seribu panggilan setiap hari, menjadikannya distrik dengan volume panggilan darurat tertinggi di negara tersebut.

Melansir laporan The New York Post pada Minggu (9/8), teknologi baru yang disebut sebagai AI Emergency Call Triage ini pertama kali diterapkan pada akhir Juli setelah diuji coba pada layanan hotline non-darurat 311 kota besar Louisiana.

Bot AI akan menganalisis panggilan untuk membantu proses triase dan menentukan prioritas keadaan darurat yang perlu ditangani manusia.
Sementara itu, bot tersebut akan terus menangani panggilan berulang atau panggilan berprioritas rendah untuk meringankan beban petugas operator.

Direktur Eksekutif OPCD Karl Fasold menekankan bahwa AI bukan menggantikan petugas operator manusia. Menurutnya, sistem tersebut diprioritaskan ketika penelepon berada dalam jarak sekitar 200 meter dari tempat kejadian perkara yang dilaporkan dan ketika semua petugas sedang sibuk.

Dapat kritik tajam

Penggunaan sistem AI ini mendapat kritik tajam dari sejumlah praktisi dan pakar. Mereka menilai kebijakan ini beresiko mengakibatkan konsekuensi yang cukup fatal.

Boxy, seorang kritikus daring yang mengaku sebagai operator 911 selama 11 tahun, menilai bahwa ide AI menjawab panggilan darurat adalah sebuah ide buruk. Menurutnya, dalam beberapa kasus, seseorang tidak bisa berbicara dengan jelas ketika menghadapi situasi darurat.

"Ada skenario di mana seseorang tidak bisa bicara dengan jelas atau aksen yang kuat, misalnya dalam situasi domestik (KDRT) dan korban berpura-pura memesan pizza atau semacamnya, petugas harus mampu merasakan perasaan seseorang atau menangkap apa yang tidak mereka katakan," kata Boxy.

"Anda butuh seorang manusia," lanjut dia.

New Orleans menjadi kota besar pertama di Amerika Serikat yang mengizinkan AI untuk benar-benar menjawab langsung panggilan darurat. Meski begitu, kota-kota lain seperti Atlanta dan Seattle juga telah mengintegrasikan AI ke dalam sistem 911 mereka.

Atlanta memanfaatkan AI hanya untuk membantu petugas operator menemukan lokasi penelepon lebih cepat atau berkomunikasi lintas bahasa, dari CBS News.

Sementara itu, Seattle telah menggunakan teknologi serupa sejak 2024 untuk membantu petugas operator memutuskan panggilan mana perlu segera direspon dan mana yang tidak. Mereka menggunakannya selama dua tahun tanpa mengumumkannya ke publik, menurut investigasi Seattle Times.

Menurut berbagai penelitian, rekam jejak akurasi AI terutama dalam panggilan suara, masih diragukan. Para kritikus memperingatkan tingginya risiko kesalahpahaman, mengingat umumnya penelepon darurat 911 berada dalam kondisi panik dan tidak mampu menjelaskan situasinya dengan baik.

Peneliti keamanan menyebut sistem suara AI juga rentan menerima serangan dari luar dan peretasan dengan mengelabui model suara agar berperilaku tidak wajar.

Meskipun demikian, para pejabat di New Orleans mengatakan mereka yakin dengan pengawasan manusia, data pelatihan, keamanan siber, dan regulasi algoritma, bot AI untuk panggilan darurat 911 ini dapat bekerja secara efektif.