Apa Saja Jurus Pemerintah Tangkis Bahaya AI Buat Anak?
CNN Indonesia
Rabu, 23 Jul 2025 11:30 WIB
Bagikan:
URL berhasil disalin
Foto: REUTERS/DADO RUVIC
Jakarta, CNN Indonesia --
Tren penggunaan kecerdasan buatan atau artificial intelligence (AI) semakin menyasar pengguna muda, termasuk anak-anak. Dengan derasnya arus informasi dan semakin pesatnya perkembangan teknologi, kemunculan AI memang sulit dibendung.
Bak air bah yang datang tiba-tiba, tidak ada yang siap menghadapi gelombang akal imitasi di dunia saat ini. Teknologi Generative AI atau GenAI, seperti ChatGPT hingga Meta AI kini semakin mudah diakses, bahkan tinggal lewat sentuhan jari di layar smartphone masing-masing.
Kemunculan gelombang teknologi AI yang tak bisa dibendung ini pun menjadi kekhawatiran jika tak ada regulasi yang mengatur penggunaannya. Lantas, apakah Indonesia memiliki aturan khusus mengenai AI?
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria, dalam keterangan resminya, mengatakan pemerintah saat ini sedang menyiapkan dua produk yang mengawal teknologi AI, yakni peta jalan dan regulasi AI yang berbentuk Peraturan Presiden.
"Akan ada dua produk, yaitu peta jalan dan regulasi AI. Lalu Peraturan Presiden yang dapat berlaku di seluruh lembaga. Jadi, dengan melakukan itu, kami memperkuat regulasi kami tentang AI," jelas Nezar.
Namun, belum diketahui apakah kedua produk tersebut akan memberi poin khusus untuk perlindungan anak di era AI. Kendati demikian, pemerintah mengklaim sejumlah aturan yang berlaku sudah cukup melindungi anak dari dampak negatif AI.
Salah satu aturan yang dapat melindungi anak-anak dari potensi bahaya GenAI adalah Undang-Undang No. 1 Tahun 2024 tentang Informasi dan Transaksi Elektronik. Dalam pasal 16A beleid tersebut menyatakan Penyelenggara Sistem Elektronik (PSE) wajib memberikan pelindungan bagi anak yang menggunakan atau mengakses platform mereka.
Beberapa perlindungan yang harus disediakan oleh platform adalah informasi mengenai batasan minimum usia yang dapat menggunakan produk atau layanan; mekanisme verifikasi pengguna anak; hingga mekanisme pelaporan penyalahgunaan produk, layanan, dan fitur yang melanggar atau berpotensi melanggar hak anak.
Selain itu, ada juga Undang-Undang No. 27 Tahun 2022 tentang Pelindungan Data Pribadi yang mengklasifikasikan data anak sebagai data pribadi yang spesifik. Pasal 25 aturan ini mengatur pemrosesan data pribadi anak diselenggarakan secara khusus dan wajib mendapat persetujuan dari orang tua dan/atau wali anak.
Terbaru, aturan yang juga melindungi anak dari bahaya AI adalah Peraturan Pemerintah No. 17 Tahun 2025 tentang Tata Kelola Penyelenggaraan Sistem Elektronik dalam Pelindungan Anak (PP Tunas).
PP terbaru ini merupakan implementasi teknis dari UU ITE yang memberikan detail perlindungan anak pada sistem elektronik.
Beberapa poin yang ada dalam aturan tersebut adalah kewajiban PSE menyediakan penilaian risiko produk digital terhadap anak; persetujuan orang tua sebelum anak mengakses layanan; fitur kontrol orang tua yang efektif untuk pengawasan; teknologi verifikasi usia; serta mekanisme pelaporan penyalahgunaan.
Wakil Ketua 1 Kolaborasi Riset dan Inovasi Industri Kecerdasan Artifisial (KORIKA) Ayu Purwarianti mengungkap ledakan adopsi AI, khususnya buat anak-anak perlu perlindungan khusus.
Ayu menjelaskan perlindungan AI pada anak mencakup beberapa risiko, seperti ketergantungan terhadap tools, menurunnya daya kognitif, paparan pornografi, konten atau instruksi membahayakan, hingga nilai-nilai yang tidak sesuai dengan budaya Indonesia.
"GenAI yang ada sekarang belum bisa memenuhi aspek safety 5 poin di atas," kata Ayu kepada CNNIndonesia.com, Selasa (22/7).
Selain menyoroti aspek-aspek tersebut, kata Ayu, GenAI harus memenuhi prinsip responsible AI, yang termasuk di dalamnya adalah aspek transparansi. Aspek transparansi ini terutama terkait data yang digunakan sebagai data latih.
"Selain itu, perlu ada pengujian yang masif, yang sesuai dengan nilai-nilai di Indonesia," tambahnya.
Menurutnya, penyedia layanan dan produk GenAI perlu melengkapi platform mereka dengan fitur pengamanan yang sesuai dengan nilai-nilai Indonesia.
Di sisi lain, poin yang tak kalah penting untuk melindungi anak dalam adopsi teknologi GenAI adalah literasi AI, khususnya pada etika AI.
Ia mengatakan, untuk masuk ke etika AI, anak perlu memiliki dasar karakter yang kuat.
Perlukah UU AI di halaman selanjutnya...
"Jadi selain tools GenAI-nya yang dilengkapi dengan guardrail nilai-nilai Indonesia, anak juga perlu diberi basic character yang kuat seperti bertanggung jawab, disiplin, empati, jujur, dan seterusnya," katanya.
Lebih lanjut, kata Ayu, peran orang tua dan guru menjadi sangat penting dalam membimbing anak untuk merespons teknologi baru ini. Dalam hal ini, literasi AI menjadi sebuah urgensi yang harus disebarkan ke guru-guru dan orang tua.
"Pemerintah perlu menggiatkan literasi AI ke sebanyak-banyaknya masyarakat Indonesia terutama untuk Etika AI dan juga melakukan pembangunan GenAI dalam negeri yang sesuai dengan nilai-nilai Indonesia," tuturnya.
"Untuk GenAI luar negeri, perlu dipastikan bahwa GenAI buatan luar negeri ini sudah memenuhi syarat responsible AI," tuturnya.
Pemerintah boleh saja mengklaim aturan yang ada saat ini sudah cukup melindungi anak dari dampak bahaya AI. Namun, secara umum, ternyata regulasi yang ada dinilai belum cukup.
Guru Besar Ilmu Kecerdasan Buatan (AI) IPB University Yeni Herdiyeni menilai Indonesia perlu segera menyusun Undang-undang khusus yang mengatur pengembangan dan pemanfaatan AI.
Yeni menjelaskan UU mengenai AI saat ini diperlukan menyusul pesatnya perkembangan teknologi ini serta berbagai risiko yang menyertainya, seperti disinformasi, kesalahan algoritma, hingga potensi ancaman terhadap ketahanan nasional.
"Undang-undang itu perlu, karena ini produk teknologi yang bisa berdampak positif dan negatif," ujar Yeni, melansir laman resmi IPB, Sabtu (21/6).
Menurutnya jika regulasi mengenai AI ditunda, Indonesia akan semakin tertinggal dan hanya menjadi pasar konsumen teknologi AI dari luar.
"Kalau dilihat dari sisi kebijakan pemerintah saat ini mulai dari pendidikan dasar dan menengah akan diberi materi tentang AI. Perlu kehati-hatian dalam merumuskan kebijakan dan arah pendidikan," ujarnya.
Yeni mengatakan saat ini yang diperlukan oleh generasi muda adalah mengembangkan pemikiran kritis dan mengembangkan kemampuan kognitif yang baik. Menurutnya jangan sampai generasi muda Indonesia hanya menjadi pengguna teknologi AI tanpa pengembangan kognitif yang kuat dalam berpikir.
Ia juga menyoroti bahwa ketiadaan undang-undang AI dapat membuka celah bagi penyalahgunaan data.
"Kalau tidak ada undang-undangnya, akan sulit jika ada pihak yang mengumpulkan data tanpa persetujuan pemiliknya dan menggunakannya untuk mengembangkan model AI. Mau dijerat dengan apa? Ini beda dengan UU ITE. UU AI memastikan bahwa inovasi yang dikembangkan harus bertanggung jawab," ujarnya.
Wakil Ketua Komisi I DPR Dave Laksono menyebut aturan khusus yang mengawal teknologi kecerdasan buatan (AI) adalah sebuah urgensi strategis. Potensi dampak yang luas membuat diperlukannya kerangka hukum yang jelas dan adaptif.
"Perkembangan teknologi AI memang sangat pesat dan sudah mulai menyentuh hampir semua aspek kehidupan, dari sektor ekonomi, pertahanan, hingga kehidupan sosial masyarakat. Dalam konteks ini, Komisi I DPR RI memandang regulasi khusus untuk AI sebagai sebuah urgensi strategis," ujar Dave saat dihubungi awal Juli lalu.
"Mengingat potensi dampak yang sangat luas, baik positif maupun negatif, maka kebutuhan akan kerangka hukum yang jelas dan adaptif menjadi hal yang mendesak," tambahnya.
Dave mengatakan Indonesia agak terlambat dalam menghadirkan aturan semacam itu jika dibandingkan dengan tren global. Ia mencontohkan beberapa negara telah memiliki aturan terkait AI, bahkan negara tetangga sudah mulai menyusun aturan serupa.
"Negara-negara seperti Uni Eropa, Amerika Serikat, hingga tetangga kita di ASEAN pun mulai bergerak cepat menyusun kebijakan terkait AI. Indonesia tidak boleh tertinggal, baik dari sisi kesiapan hukum maupun kesiapan institusional," katanya.
INFOGRAFIS: Mengenal Apa Itu DeepFake, Bahaya dan Cara Identifikasinya (Foto: CNN Indonesia/ Agder Maulana)
Jakarta, CNN Indonesia --
Tren penggunaan kecerdasan buatan atau artificial intelligence (AI) semakin menyasar pengguna muda, termasuk anak-anak. Dengan derasnya arus informasi dan semakin pesatnya perkembangan teknologi, kemunculan AI memang sulit dibendung.
Bak air bah yang datang tiba-tiba, tidak ada yang siap menghadapi gelombang akal imitasi di dunia saat ini. Teknologi Generative AI atau GenAI, seperti ChatGPT hingga Meta AI kini semakin mudah diakses, bahkan tinggal lewat sentuhan jari di layar smartphone masing-masing.
Kemunculan gelombang teknologi AI yang tak bisa dibendung ini pun menjadi kekhawatiran jika tak ada regulasi yang mengatur penggunaannya. Lantas, apakah Indonesia memiliki aturan khusus mengenai AI?
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria, dalam keterangan resminya, mengatakan pemerintah saat ini sedang menyiapkan dua produk yang mengawal teknologi AI, yakni peta jalan dan regulasi AI yang berbentuk Peraturan Presiden.
"Akan ada dua produk, yaitu peta jalan dan regulasi AI. Lalu Peraturan Presiden yang dapat berlaku di seluruh lembaga. Jadi, dengan melakukan itu, kami memperkuat regulasi kami tentang AI," jelas Nezar.
Namun, belum diketahui apakah kedua produk tersebut akan memberi poin khusus untuk perlindungan anak di era AI. Kendati demikian, pemerintah mengklaim sejumlah aturan yang berlaku sudah cukup melindungi anak dari dampak negatif AI.
Salah satu aturan yang dapat melindungi anak-anak dari potensi bahaya GenAI adalah Undang-Undang No. 1 Tahun 2024 tentang Informasi dan Transaksi Elektronik. Dalam pasal 16A beleid tersebut menyatakan Penyelenggara Sistem Elektronik (PSE) wajib memberikan pelindungan bagi anak yang menggunakan atau mengakses platform mereka.
Beberapa perlindungan yang harus disediakan oleh platform adalah informasi mengenai batasan minimum usia yang dapat menggunakan produk atau layanan; mekanisme verifikasi pengguna anak; hingga mekanisme pelaporan penyalahgunaan produk, layanan, dan fitur yang melanggar atau berpotensi melanggar hak anak.
Selain itu, ada juga Undang-Undang No. 27 Tahun 2022 tentang Pelindungan Data Pribadi yang mengklasifikasikan data anak sebagai data pribadi yang spesifik. Pasal 25 aturan ini mengatur pemrosesan data pribadi anak diselenggarakan secara khusus dan wajib mendapat persetujuan dari orang tua dan/atau wali anak.
Terbaru, aturan yang juga melindungi anak dari bahaya AI adalah Peraturan Pemerintah No. 17 Tahun 2025 tentang Tata Kelola Penyelenggaraan Sistem Elektronik dalam Pelindungan Anak (PP Tunas).
PP terbaru ini merupakan implementasi teknis dari UU ITE yang memberikan detail perlindungan anak pada sistem elektronik.
Beberapa poin yang ada dalam aturan tersebut adalah kewajiban PSE menyediakan penilaian risiko produk digital terhadap anak; persetujuan orang tua sebelum anak mengakses layanan; fitur kontrol orang tua yang efektif untuk pengawasan; teknologi verifikasi usia; serta mekanisme pelaporan penyalahgunaan.
Wakil Ketua 1 Kolaborasi Riset dan Inovasi Industri Kecerdasan Artifisial (KORIKA) Ayu Purwarianti mengungkap ledakan adopsi AI, khususnya buat anak-anak perlu perlindungan khusus.
Ayu menjelaskan perlindungan AI pada anak mencakup beberapa risiko, seperti ketergantungan terhadap tools, menurunnya daya kognitif, paparan pornografi, konten atau instruksi membahayakan, hingga nilai-nilai yang tidak sesuai dengan budaya Indonesia.
"GenAI yang ada sekarang belum bisa memenuhi aspek safety 5 poin di atas," kata Ayu kepada CNNIndonesia.com, Selasa (22/7).
Selain menyoroti aspek-aspek tersebut, kata Ayu, GenAI harus memenuhi prinsip responsible AI, yang termasuk di dalamnya adalah aspek transparansi. Aspek transparansi ini terutama terkait data yang digunakan sebagai data latih.
"Selain itu, perlu ada pengujian yang masif, yang sesuai dengan nilai-nilai di Indonesia," tambahnya.
Menurutnya, penyedia layanan dan produk GenAI perlu melengkapi platform mereka dengan fitur pengamanan yang sesuai dengan nilai-nilai Indonesia.
Di sisi lain, poin yang tak kalah penting untuk melindungi anak dalam adopsi teknologi GenAI adalah literasi AI, khususnya pada etika AI.
Ia mengatakan, untuk masuk ke etika AI, anak perlu memiliki dasar karakter yang kuat.
Perlukah UU AI di halaman selanjutnya...
Perlukah UU untuk atur AI?
Foto: AFP/GREG BAKER
"Jadi selain tools GenAI-nya yang dilengkapi dengan guardrail nilai-nilai Indonesia, anak juga perlu diberi basic character yang kuat seperti bertanggung jawab, disiplin, empati, jujur, dan seterusnya," katanya.
Lebih lanjut, kata Ayu, peran orang tua dan guru menjadi sangat penting dalam membimbing anak untuk merespons teknologi baru ini. Dalam hal ini, literasi AI menjadi sebuah urgensi yang harus disebarkan ke guru-guru dan orang tua.
"Pemerintah perlu menggiatkan literasi AI ke sebanyak-banyaknya masyarakat Indonesia terutama untuk Etika AI dan juga melakukan pembangunan GenAI dalam negeri yang sesuai dengan nilai-nilai Indonesia," tuturnya.
"Untuk GenAI luar negeri, perlu dipastikan bahwa GenAI buatan luar negeri ini sudah memenuhi syarat responsible AI," tuturnya.
Pemerintah boleh saja mengklaim aturan yang ada saat ini sudah cukup melindungi anak dari dampak bahaya AI. Namun, secara umum, ternyata regulasi yang ada dinilai belum cukup.
Guru Besar Ilmu Kecerdasan Buatan (AI) IPB University Yeni Herdiyeni menilai Indonesia perlu segera menyusun Undang-undang khusus yang mengatur pengembangan dan pemanfaatan AI.
Yeni menjelaskan UU mengenai AI saat ini diperlukan menyusul pesatnya perkembangan teknologi ini serta berbagai risiko yang menyertainya, seperti disinformasi, kesalahan algoritma, hingga potensi ancaman terhadap ketahanan nasional.
"Undang-undang itu perlu, karena ini produk teknologi yang bisa berdampak positif dan negatif," ujar Yeni, melansir laman resmi IPB, Sabtu (21/6).
Menurutnya jika regulasi mengenai AI ditunda, Indonesia akan semakin tertinggal dan hanya menjadi pasar konsumen teknologi AI dari luar.
"Kalau dilihat dari sisi kebijakan pemerintah saat ini mulai dari pendidikan dasar dan menengah akan diberi materi tentang AI. Perlu kehati-hatian dalam merumuskan kebijakan dan arah pendidikan," ujarnya.
Yeni mengatakan saat ini yang diperlukan oleh generasi muda adalah mengembangkan pemikiran kritis dan mengembangkan kemampuan kognitif yang baik. Menurutnya jangan sampai generasi muda Indonesia hanya menjadi pengguna teknologi AI tanpa pengembangan kognitif yang kuat dalam berpikir.
Ia juga menyoroti bahwa ketiadaan undang-undang AI dapat membuka celah bagi penyalahgunaan data.
"Kalau tidak ada undang-undangnya, akan sulit jika ada pihak yang mengumpulkan data tanpa persetujuan pemiliknya dan menggunakannya untuk mengembangkan model AI. Mau dijerat dengan apa? Ini beda dengan UU ITE. UU AI memastikan bahwa inovasi yang dikembangkan harus bertanggung jawab," ujarnya.
Wakil Ketua Komisi I DPR Dave Laksono menyebut aturan khusus yang mengawal teknologi kecerdasan buatan (AI) adalah sebuah urgensi strategis. Potensi dampak yang luas membuat diperlukannya kerangka hukum yang jelas dan adaptif.
"Perkembangan teknologi AI memang sangat pesat dan sudah mulai menyentuh hampir semua aspek kehidupan, dari sektor ekonomi, pertahanan, hingga kehidupan sosial masyarakat. Dalam konteks ini, Komisi I DPR RI memandang regulasi khusus untuk AI sebagai sebuah urgensi strategis," ujar Dave saat dihubungi awal Juli lalu.
"Mengingat potensi dampak yang sangat luas, baik positif maupun negatif, maka kebutuhan akan kerangka hukum yang jelas dan adaptif menjadi hal yang mendesak," tambahnya.
Dave mengatakan Indonesia agak terlambat dalam menghadirkan aturan semacam itu jika dibandingkan dengan tren global. Ia mencontohkan beberapa negara telah memiliki aturan terkait AI, bahkan negara tetangga sudah mulai menyusun aturan serupa.
"Negara-negara seperti Uni Eropa, Amerika Serikat, hingga tetangga kita di ASEAN pun mulai bergerak cepat menyusun kebijakan terkait AI. Indonesia tidak boleh tertinggal, baik dari sisi kesiapan hukum maupun kesiapan institusional," katanya.
INFOGRAFIS: Mengenal Apa Itu DeepFake, Bahaya dan Cara Identifikasinya (Foto: CNN Indonesia/ Agder Maulana)
INFOGRAFIS: Mengenal Apa Itu DeepFake, Bahaya dan Cara Identifikasinya (Foto: CNN Indonesia/ Agder Maulana)
