Tren Edit Wajah Anak Pakai AI Berisiko, Pakar Ingatkan Ancaman Privasi
Tren mengedit wajah anak dengan teknologi kecerdasan buatan (AI) untuk konten dance di media sosial menuai kekhawatiran. Menurut pakar tren ini berpotensi mengancam keamanan data dan privasi anak.
Ketua Program Studi Kecerdasan Buatan IPB University Yeni Herdiyani menjelaskan bahwa teknologi AI yang banyak digunakan saat ini merupakan generative AI (Gen-AI), yaitu teknologi yang mampu menghasilkan gambar, video, teks, hingga suara berdasarkan model dan data yang tersedia.
"Bayi dan dance adalah model yang sudah bisa dibuat oleh algoritma. Jika diberi informasi berupa foto riil, maka AI dapat membuat hasil secara otomatis yang tampak nyata. Itulah mekanisme teknologinya," ujarnya melansir laman IPB, Senin (9/2).
Dari sisi risiko, penggunaan wajah anak sebagai data AI dinilai sangat rentan terhadap kejahatan digital. Yeni menegaskan bahwa ketika foto diunggah ke ruang publik, data tersebut pada dasarnya dapat diakses luas dan berpotensi disalahgunakan oleh pihak yang tidak bertanggung jawab.
"Kondisi ini menempatkan anak sebagai kelompok yang sangat rentan dalam ekosistem digital," ungkapnya.
Karena itu, ia menekankan pentingnya kesadaran orang tua untuk memahami risiko digital sebelum mengunggah atau mengedit wajah anak menggunakan AI. Risiko tersebut meliputi keamanan data, perlindungan privasi, hingga potensi penyalahgunaan data.
Selain itu, pengguna perlu menyadari bahwa data yang diberikan kepada algoritma AI dapat dimanfaatkan untuk melatih model sebagai dataset, sehingga berpotensi muncul kembali dalam bentuk atau konteks lain.
Untuk merespons tren ini, Yeni menekankan pentingnya literasi digital di masyarakat. Ia menyampaikan bahwa IPB University secara konsisten membekali mahasiswa baru dengan materi etika dan tanggung jawab penggunaan teknologi melalui perkuliahan berpikir komputasional sejak tingkat pertama.
Upaya tersebut diharapkan dapat mendorong terbentuknya masyarakat yang lebih kritis dan bertanggung jawab dalam memanfaatkan teknologi AI.