Dharma Pongrekun Sebut AI Alat Mata-mata, Simak Faktanya

Sebuah algoritma yang dikembangkan di Stanford pada tahun 2017 diklaim dapat mengetahui dari sebuah foto apakah seseorang itu gay. Akurat atau tidak, alat semacam itu menciptakan peluang baru untuk persekusi.

"Ambil jenis teknologi ini, masukkan ke dalam sistem pengawasan CCTV di seluruh kota, dan pergilah ke tempat seperti Arab Saudi di mana menjadi gay dianggap sebagai kejahatan," kata Lisa Talia Moretti, seorang sosiolog digital, mengutip Wired.

"Tiba-tiba Anda menarik orang-orang dari jalan dan menangkap mereka karena Anda gay, karena komputer mengatakan demikian," lanjut dia.

Salah satu negara yang sangat memanfaatkan teknologi pengenalan wajah (face recognition) dan pengawasan AI adalah China. Industri AI di negeri Tirai Bambu itu telah berkembang pesat berkat persaingan yang ketat dan akses yang tak tertandingi ke data pribadi.

Kebangkitan AI di China juga memungkinkan kontrol pemerintah yang lebih ketat terhadap informasi, ucapan, dan kebebasan.

Beberapa kota di China sudah menggunakan teknologi face recognition untuk menangkap penjahat dalam rekaman pengawasan, dan untuk mempermalukan mereka yang melakukan pelanggaran ringan di depan umum. Salah satu yang paling mengkhawatirkan, China menggunakan AI di Xinjiang untuk menganiaya etnis muslim Uighur.

Badan intelijen AS pakai AI dari Microsoft

Bloomberg, pada Mei lalu, melaporkan bahwa salah satu badan intelijen Amerika Serikat (AS) akan segera menggunakan AI generatif rahasia dari Microsoft. Teknologi ini disebut memungkinkan mata-mata AS menggunakan model AI dengan aman dala proses menganalisis data sensitif.

Model AI generatif Microsoft untuk badan intelijen bertujuan untuk mengatasi masalah keamanan yang berasal dari koneksi model bahasa besar (LLM) ke internet, yang biasanya digunakan sebagai sumber daya untuk melatih model-model tersebut.

Menurut laporan Bloomberg alat AI ini merupakan LLM pertama yang sepenuhnya terpisah dari internet.

William Chappell, CTO Microsoft untuk misi strategis dan teknologi, mengatakan alat AI tersebut digunakan pada lingkungan cloud "air-gapped" yang terisolasi dari internet dan memiliki model berdasarkan GPT-4 beserta alat pendukungnya. Perusahaan ini mengumumkan produk baru tersebut di AI Expo untuk Daya Saing Nasional minggu ini.

"Ini adalah pertama kalinya kami memiliki versi yang terisolasi - ketika terisolasi berarti tidak terhubung ke internet - dan berada di jaringan khusus yang hanya dapat diakses oleh pemerintah AS," kata Chappell.

Kemampuan AI generatif untuk menganalisis data dalam jumlah besar dan mengenali pola untuk memberikan wawasan yang dapat ditindaklanjuti kepada pengguna telah membuat alat ini sangat dicari oleh badan-badan intelijen seperti CIA dan badan-badan lain yang membentuk komunitas intelijen.