Viral Lensa AI 'Melukis' bak van Gogh dan Anime, Potensial Bermasalah

Pornografi deepfake

Meski menyenangkan melihat foto bak lukisan atau karakter anime atau peri hutan, beberapa kasus menunjukkan kesalahan 'persepsi' dari Lensa AI. Misalnya, tampilan besar mata tak seimbang, roti sobek di perut ditampilkan sebagai six pack. Beberapa pengguna bahkan merasa jadi objek seksual dari Lensa AI.

Beberapa perempuan pengguna mengaku Lensa AI menyertakan rendering gambar seluruh tubuh maski mereka awalnya cuma menginstruksikan selfie close-up.

Sebuah gambar menampilkan avatar dalam kostum bikini metalik ala Princess Leia di film Star Wars: Return of the Jedi. Yang lainnya hanya menyertakan separuh wajah di atas tubuh yang berpakaian minim.

Prisma Labs menyatakan pada halaman F.A.Q. mengakui "seksualisasi sesekali diamati di semua kategori gender."

Menurut laporan TechCrunch, Lensa AI bisa menghasilkan avatar selebritas bertelanjang dada dengan bahannya berupa foto kepala pemain film yang ditempelkan ke tubuh telanjang.

Ribuan lainnya bahkan dibisniskan di berbagai forum, seperti Reddit. Salah satu yang rutin mengunggah gambar porno hasil edit AI berkualitas tinggi (deepfake pornography) adalah Unstable Diffusion.

Platform ini disebut bisa meraup lebih dari US$2.500 per bulan dari beberapa ratus pelanggan.

"Hanya dalam dua bulan, tim kami berkembang menjadi lebih dari 13 orang serta banyak konsultan dan moderator komunitas sukarelawan," kata Arman Chaudhry, salah satu anggota tim adminnya, kepada TechCrunch.

"Kami melihat peluang untuk membuat inovasi dalam kegunaan, pengalaman pengguna, dan kekuatan ekspresi untuk membuat alat yang dapat dimanfaatkan oleh seniman profesional dan bisnis."

Hal yang sama sangat mungkin terjadi dalam konteks upaya untuk membuat gambar porno sebagai balas dendam, atau dalam bahasa Internet Lab, "non-consensual dissemination of intimate images" (NCII).

"Ternyata AI mengambil gambar-gambar hasil Photoshop sebagai izin untuk menghasilkan [karya ]yang liar, dan tampaknya itu menonaktifkan filter NSFW," menurut TechCrunch.

Andrey Usoltsev, kepala eksekutif dan salah satu pendiri Prisma Labs, mengatakan penggunaan Lensa AI dalam "perilaku berbahaya atau melecehkan" merupakan pelanggaran terhadap ketentuan penggunaa.

Masalah hak cipta

Kambhampati mengungkapkan mesin Stable Diffusion berbasis kreasi banyak seniman yang tidak secara eksplisit menyetujui penggunaan karya mereka untuk keuntungan Prisma Labs.

"Jika van Gogh masih hidup hari ini, Anda mungkin perlu membayar van Gogh beberapa lisensi untuk membuat gambar Anda bergaya van Gogh." ujarnya.

Jonathan Lam, artis yang bekerja di video game dan animasi, menyatakan masalah hak cipta ini banyak tak dipedulikan oleh pengguna Lensa AI.

"Bagi banyak orang, setelah karya seni kami dicuri, mereka tidak melihatnya sebagai sesuatu yang pribadi - seperti, 'Oh, tahulah, itu kan cuma style; Anda tidak dapat hak cipta dari style,'" kata dia.

"Namun saya berpendapat bahwa bagi kami, gaya kami sebenarnya adalah identitas kami. Itu yang membedakan kami satu sama lain. Itulah yang membuat kami dapat dipasarkan ke klien," jelas Lam, yang tinggal di Vancouver, British Columbia.

Dia juga mencatat bahwa beberapa karya yang dihasilkan Lensa AI adalah yang tampak seperti rendering tanda tangan seniman.

"Semua penggemar teknologi ini mengatakan bahwa mesin ini menciptakan sesuatu yang baru, tetapi jika tanda tangan senimannya masih ada, itu bukan sesuatu yang baru," cetus Lam.

"Dia hanya menghasilkan sesuatu berdasarkan data yang diberikan"

"Saya pikir masyarakat umum berasumsi bahwa ini adalah program yang baru saja belajar menggambar dengan sendirinya dalam ruang hampa, dan mereka tidak menyadari implikasi yang lebih besar dari eksploitasi data," tambahnya.

"Saat Anda mulai melihat hal-hal ini dimonetisasi dan orang-orang yang riil dieksploitasi dan dilecehkan, itu cukup menakutkan. Dan bahkan lebih menakutkan ketika disamarkan sebagai aplikasi yang menarik."

Merespons hal ini, Prisma Labs di utasnya di Twitter menyatakan bahwa AI "tidak akan menggantikan seniman digital" dan menentang karakterisasi bahwa Lensa merobek karya seniman.

"AI belajar mengenali hubungan antara gambar dan deskripsinya, bukan karya seninya," tulis perusahaan itu.

"Karena sinema tidak membunuh teater dan perangkat lunak akuntansi belum menghilangkan profesi [akuntan], AI tidak akan menggantikan artis tetapi dapat menjadi alat bantu yang hebat," klaim mereka.