Kementerian Komunikasi dan Digital (Komdigi) mengkaji peraturan menteri mengenai pelabelan konten yang dihasilkan AI untuk menghadapi risiko manipulasi informasi berupa video, gambar, dan suara buatan kecerdasan artifisial yang semakin sulit dibedakan dari konten asli.
Peraturan ini kemungkinan besar akan mewajibkan pemberian label atau tanda pada konten-konten hasil AI untuk membantu masyarakat membedakan dan menelusuri asal-usul konten digital.
Wakil Menteri Komunikasi dan Digital Nezar Patria, pada Konvensi Humas Indonesia 2026 di Surakarta, menjelaskan bahwa perkembangan AI telah memungkinkan pembuatan konten sintetis yang menyerupai kenyataan.
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
"Perkembangan ini sangat cepat untuk makin membuat garis pemisah antara fakta, antara realita dengan sesuatu yang sintetik makin lama makin tipis," ungkapnya pada hari Sabtu (17/10), dikutip dari laman resmi Komdigi.
Menurutnya, kemampuan AI untuk menghasilkan video, gambar, dan suara yang semakin realistis meningkatkan risiko penyalahgunaan teknologi untuk penipuan dan manipulasi informasi.
Ia mencontohkan kasus penipuan melalui pertemuan virtual di Hong Kong sekitar dua tahun lalu yang menyebabkan sebuah perusahaan mengalami kerugian sebesar US$25 juta.
Dalam kasus tersebut, seorang staf keuangan melakukan 15 kali transfer setelah menerima instruksi melalui pertemuan daring yang menampilkan jajaran pimpinan perusahaan yang ternyata merupakan hasil rekayasa digital.
"Jadi dalam pertemuan online itu semuanya fake, yang asli cuma dia sendiri di situ, si staf itu," ungkapnya.
Untuk menghadapi ancaman tersebut, Nezar mengatakan sejumlah perusahaan teknologi global mulai mengembangkan mekanisme autentikasi dan penelusuran asal-usul konten digital melalui metadata.
Langkah serupa juga tengah dilakukan pemerintah dalam penyusunan kebijakan pelabelan konten AI. Nantinya, pengembang teknologi diharapkan dapat memberikan penanda yang membedakan konten hasil AI.
"Di Indonesia, Komdigi sedang mengkaji itu untuk membuat peraturan menteri agar setiap perusahaan-perusahaan pengembang AI itu bisa memberikan label tentang otentisitas dari keaslian produk video yang dibuat atau produk digital media yang dihasilkan," kata Nezar.
Selain itu, pemerintah juga menyiapkan langkah pengamanan melalui penyusunan Peta Jalan Nasional Kecerdasan Artifisial periode 2026-2029 yang melibatkan lebih dari 400 lembaga, komunitas, kementerian, dan unsur industri.
Nezar menilai penguatan tata kelola AI perlu diikuti peningkatan kemampuan dan peran masyarakat dan organisasi dalam menggunakan teknologi secara bertanggung jawab dan dalam menilai kebenaran informasi.
"AI harus didudukkan sebagai alat, sebagai mitra kerja, bukan pengganti nalar dan tanggung jawab manusia," tegasnya.