Viral Lensa AI 'Melukis' bak van Gogh dan Anime, Potensial Bermasalah
CNN Indonesia
Kamis, 08 Des 2022 15:10 WIB
Bagikan:
URL berhasil disalin
Ilustrasi. Tren Lensa AI memicu sejumlah masalah. (Foto: Tangkapan Layar Instagram/@lensa.ai)
Jakarta, CNN Indonesia --
Jika feed Instagram atau Twitter Anda dipenuhi dengan foto bergaya Renaisans, versi anime, atau pun berbau digital, Anda tak sendirian. Fenomena yang viral di media sosial ini merupakan ulah platform Lensa AI.
Lensa AI merupakan aplikasi buatan Prisma Labs yang memanfaatkan selfie dan memprosesnya dengan kecerdasan buatan untuk membuat potret dalam berbagai gaya, yang normal hingga dan kontroversial.
Per Kamis (8/11), Lensa AI menjadi aplikasi iPhone paling populer di Amerika Serikat di iOS. Selain itu, app ini jadi pemuncak klasemen kategori foto dan video global. Meski begitu, Lensa AI belum masuk 10 besar app terpopuler di RI.
Yasemin Anders (29) memutuskan untuk memakai Lensa AI setelah melihatnya jadi tren di media sosial. Ia pun mengaku begitu gembira melihat dirinya dalam bentuk peri.
Namun, kekecewaaan muncul usai dirinya melihat fotonya yang lebih kurus serta wajah dan leher yang lebih ramping.
"Jika cukup pintar untuk mengubah Anda menjadi peri atau tokoh manga, Anda akan mengira ada semacam perangkat lunak yang cukup pintar di belakangnya untuk mendeteksi orang gemuk juga," kata Anders, yang tinggal di Berlin, Jerman, dikutip dari The New York Times.
"Bahkan jika saya membayangkan diri saya sebagai peri, seperti versi fantasi ideal diri saya, saya masih ingin terlihat seperti diri saya sendiri," tambah karyawan di bidang pemasaran ini.
Pengguna lain melaporkan bahwa aplikasi tersebut membuat kulit mereka tampak lebih terang atau lebih putih serta jelas mengubah fitur wajah mereka
"Jika sebagian besar gambar yang Anda masukkan ke sistem adalah wajah putih, maka tidak mengherankan jika mencoba membuat gambar yang terlihat 'lebih baik', itu hanya membuatnya lebih putih," kata Kambhampati.
Lensa AI mulainya memproses foto narsis Anda, mempelajarinya, dan menghasilkan potret asli yang dimodifikasi oleh kecerdasan buatan.
Untuk mendapatkannya, Anda bisa mendapatkan 50 avatar - 10 gambar dalam lima gaya - seharga US$3,99 (sekitar Rp62.300) selama masa uji coba satu pekan.
Paket lainnya adalah US$35,99 (Rp562.180). Anda bisa berlangganan Lensa AI setahun dengan diskon 51 persen untuk avatar berikutnya. Harga kemungkinan terus bergerak seiring peningkatan popularitasnya.
"Avatar Ajaib menggunakan daya komputasi yang luar biasa untuk membuat avatar yang luar biasa bagi Anda," menurut halaman checkout Lensa.
"Mahal memang, tapi kami membuatnya semurah mungkin."
Setelah mengunduh aplikasi, Anda mesti mengunggah banyak selfie. Sebagai saran, jangan tempelkan tangan Anda ke wajah Anda kecuali ingin mendapatkan gambar dengan komposisi yang tak diduga-duga. Misalnya saja, ada tangak tengkorak yang tergantung di mulut Anda.
Selanjutnya, pilih jenis kelamin. Menjauhlah dari ponsel Anda selama sekitar setengah jam. Saat Anda kembali, voila. Wajah Anda, atau sesuatu yang berasal dari foto awal itu, telah permak sedemikian rupa dengan ukuran, tergantung pada paket yang Anda beli, dengan tema berbeda-beda, di antaranya "kosmik", "putri peri", hingga "anime".
Lensa AI menggunakan Stable Diffusion (SD), yaitu generator gambar berbasis AI yang menurut Subbarao Kambhampati, profesor di School of Computing and Augmented Intelligence di Arizona State University, AS, "sangat kuat".
SD, yang mirip dengan DALL-E 2 dan Midjourney karena menggunakan petunjuk gambar (seperti swafoto Anda) dan petunjuk teks (seperti "fantasi", yang jadi salah satu kategori di Lensa AI) untuk menghasilkan gambar berkualitas tinggi yang terkadang "trippy (seperti halusinasi)".
"Anda ditunjukkan foto-foto yang tidak pernah diambil oleh siapa pun; [app] itu hanya dapat menggabungkannya dari gambar-gambar lain yang pernah dilihatnya," kata Subbarao Kambhampati, profesor di School of Computing and Augmented Intelligence di Arizona State University, AS.
Masalah privasi
Jen King, peneliti kebijakan privasi dan data di Institute for Human-Centered Artificial Intelligence di Stanford University, meragukan klaim Prisma Labs yang tak lagi menggunakan data pribadi pengguna, terutama hasil selfie, usai proses tuntas.
"Saya ragu bahwa seluruh model bisnisnya adalah, 'Beri kami US$10 atau US$15 dan kami akan mengirimkan kembali A.I. glam shot,'" kata dia.
Kebijakan privasi Lensa AI menyatakan "data wajah" dihapus dalam waktu 24 jam setelah diproses dan tidak digunakan untuk mengidentifikasi pengguna individu mana pun. Namun, ketentuannya juga menyatakan bahwa foto dan video pengguna dapat digunakan untuk melatih algoritme Lensa lebih lanjut.
Lalu apakah Anda akan menggunakan Lensa AI? "Tidak," timpal King.
Pornografi deepfake hingga hak cipta van Gogh di halaman berikutnya...
Pornografi deepfake
Meski menyenangkan melihat foto bak lukisan atau karakter anime atau peri hutan, beberapa kasus menunjukkan kesalahan 'persepsi' dari Lensa AI. Misalnya, tampilan besar mata tak seimbang, roti sobek di perut ditampilkan sebagai six pack. Beberapa pengguna bahkan merasa jadi objek seksual dari Lensa AI.
Beberapa perempuan pengguna mengaku Lensa AI menyertakan rendering gambar seluruh tubuh maski mereka awalnya cuma menginstruksikan selfie close-up.
Sebuah gambar menampilkan avatar dalam kostum bikini metalik ala Princess Leia di film Star Wars: Return of the Jedi. Yang lainnya hanya menyertakan separuh wajah di atas tubuh yang berpakaian minim.
Prisma Labs menyatakan pada halaman F.A.Q. mengakui "seksualisasi sesekali diamati di semua kategori gender."
Menurut laporan TechCrunch, Lensa AI bisa menghasilkan avatar selebritas bertelanjang dada dengan bahannya berupa foto kepala pemain film yang ditempelkan ke tubuh telanjang.
Ribuan lainnya bahkan dibisniskan di berbagai forum, seperti Reddit. Salah satu yang rutin mengunggah gambar porno hasil edit AI berkualitas tinggi (deepfake pornography) adalah Unstable Diffusion.
Platform ini disebut bisa meraup lebih dari US$2.500 per bulan dari beberapa ratus pelanggan.
"Hanya dalam dua bulan, tim kami berkembang menjadi lebih dari 13 orang serta banyak konsultan dan moderator komunitas sukarelawan," kata Arman Chaudhry, salah satu anggota tim adminnya, kepada TechCrunch.
"Kami melihat peluang untuk membuat inovasi dalam kegunaan, pengalaman pengguna, dan kekuatan ekspresi untuk membuat alat yang dapat dimanfaatkan oleh seniman profesional dan bisnis."
Hal yang sama sangat mungkin terjadi dalam konteks upaya untuk membuat gambar porno sebagai balas dendam, atau dalam bahasa Internet Lab, "non-consensual dissemination of intimate images" (NCII).
"Ternyata AI mengambil gambar-gambar hasil Photoshop sebagai izin untuk menghasilkan [karya ]yang liar, dan tampaknya itu menonaktifkan filter NSFW," menurut TechCrunch.
Andrey Usoltsev, kepala eksekutif dan salah satu pendiri Prisma Labs, mengatakan penggunaan Lensa AI dalam "perilaku berbahaya atau melecehkan" merupakan pelanggaran terhadap ketentuan penggunaa.
Masalah hak cipta
Kambhampati mengungkapkan mesin Stable Diffusion berbasis kreasi banyak seniman yang tidak secara eksplisit menyetujui penggunaan karya mereka untuk keuntungan Prisma Labs.
"Jika van Gogh masih hidup hari ini, Anda mungkin perlu membayar van Gogh beberapa lisensi untuk membuat gambar Anda bergaya van Gogh." ujarnya.
Jonathan Lam, artis yang bekerja di video game dan animasi, menyatakan masalah hak cipta ini banyak tak dipedulikan oleh pengguna Lensa AI.
"Bagi banyak orang, setelah karya seni kami dicuri, mereka tidak melihatnya sebagai sesuatu yang pribadi - seperti, 'Oh, tahulah, itu kan cuma style; Anda tidak dapat hak cipta dari style,'" kata dia.
"Namun saya berpendapat bahwa bagi kami, gaya kami sebenarnya adalah identitas kami. Itu yang membedakan kami satu sama lain. Itulah yang membuat kami dapat dipasarkan ke klien," jelas Lam, yang tinggal di Vancouver, British Columbia.
Dia juga mencatat bahwa beberapa karya yang dihasilkan Lensa AI adalah yang tampak seperti rendering tanda tangan seniman.
"Semua penggemar teknologi ini mengatakan bahwa mesin ini menciptakan sesuatu yang baru, tetapi jika tanda tangan senimannya masih ada, itu bukan sesuatu yang baru," cetus Lam.
"Dia hanya menghasilkan sesuatu berdasarkan data yang diberikan"
"Saya pikir masyarakat umum berasumsi bahwa ini adalah program yang baru saja belajar menggambar dengan sendirinya dalam ruang hampa, dan mereka tidak menyadari implikasi yang lebih besar dari eksploitasi data," tambahnya.
"Saat Anda mulai melihat hal-hal ini dimonetisasi dan orang-orang yang riil dieksploitasi dan dilecehkan, itu cukup menakutkan. Dan bahkan lebih menakutkan ketika disamarkan sebagai aplikasi yang menarik."
Merespons hal ini, Prisma Labs di utasnya di Twitter menyatakan bahwa AI "tidak akan menggantikan seniman digital" dan menentang karakterisasi bahwa Lensa merobek karya seniman.
"AI belajar mengenali hubungan antara gambar dan deskripsinya, bukan karya seninya," tulis perusahaan itu.
"Karena sinema tidak membunuh teater dan perangkat lunak akuntansi belum menghilangkan profesi [akuntan], AI tidak akan menggantikan artis tetapi dapat menjadi alat bantu yang hebat," klaim mereka.
Jakarta, CNN Indonesia --
Jika feed Instagram atau Twitter Anda dipenuhi dengan foto bergaya Renaisans, versi anime, atau pun berbau digital, Anda tak sendirian. Fenomena yang viral di media sosial ini merupakan ulah platform Lensa AI.
Lensa AI merupakan aplikasi buatan Prisma Labs yang memanfaatkan selfie dan memprosesnya dengan kecerdasan buatan untuk membuat potret dalam berbagai gaya, yang normal hingga dan kontroversial.
Per Kamis (8/11), Lensa AI menjadi aplikasi iPhone paling populer di Amerika Serikat di iOS. Selain itu, app ini jadi pemuncak klasemen kategori foto dan video global. Meski begitu, Lensa AI belum masuk 10 besar app terpopuler di RI.
Yasemin Anders (29) memutuskan untuk memakai Lensa AI setelah melihatnya jadi tren di media sosial. Ia pun mengaku begitu gembira melihat dirinya dalam bentuk peri.
Namun, kekecewaaan muncul usai dirinya melihat fotonya yang lebih kurus serta wajah dan leher yang lebih ramping.
"Jika cukup pintar untuk mengubah Anda menjadi peri atau tokoh manga, Anda akan mengira ada semacam perangkat lunak yang cukup pintar di belakangnya untuk mendeteksi orang gemuk juga," kata Anders, yang tinggal di Berlin, Jerman, dikutip dari The New York Times.
"Bahkan jika saya membayangkan diri saya sebagai peri, seperti versi fantasi ideal diri saya, saya masih ingin terlihat seperti diri saya sendiri," tambah karyawan di bidang pemasaran ini.
Pengguna lain melaporkan bahwa aplikasi tersebut membuat kulit mereka tampak lebih terang atau lebih putih serta jelas mengubah fitur wajah mereka
"Jika sebagian besar gambar yang Anda masukkan ke sistem adalah wajah putih, maka tidak mengherankan jika mencoba membuat gambar yang terlihat 'lebih baik', itu hanya membuatnya lebih putih," kata Kambhampati.
Lensa AI mulainya memproses foto narsis Anda, mempelajarinya, dan menghasilkan potret asli yang dimodifikasi oleh kecerdasan buatan.
Untuk mendapatkannya, Anda bisa mendapatkan 50 avatar - 10 gambar dalam lima gaya - seharga US$3,99 (sekitar Rp62.300) selama masa uji coba satu pekan.
Paket lainnya adalah US$35,99 (Rp562.180). Anda bisa berlangganan Lensa AI setahun dengan diskon 51 persen untuk avatar berikutnya. Harga kemungkinan terus bergerak seiring peningkatan popularitasnya.
"Avatar Ajaib menggunakan daya komputasi yang luar biasa untuk membuat avatar yang luar biasa bagi Anda," menurut halaman checkout Lensa.
"Mahal memang, tapi kami membuatnya semurah mungkin."
Setelah mengunduh aplikasi, Anda mesti mengunggah banyak selfie. Sebagai saran, jangan tempelkan tangan Anda ke wajah Anda kecuali ingin mendapatkan gambar dengan komposisi yang tak diduga-duga. Misalnya saja, ada tangak tengkorak yang tergantung di mulut Anda.
Selanjutnya, pilih jenis kelamin. Menjauhlah dari ponsel Anda selama sekitar setengah jam. Saat Anda kembali, voila. Wajah Anda, atau sesuatu yang berasal dari foto awal itu, telah permak sedemikian rupa dengan ukuran, tergantung pada paket yang Anda beli, dengan tema berbeda-beda, di antaranya "kosmik", "putri peri", hingga "anime".
Lensa AI menggunakan Stable Diffusion (SD), yaitu generator gambar berbasis AI yang menurut Subbarao Kambhampati, profesor di School of Computing and Augmented Intelligence di Arizona State University, AS, "sangat kuat".
SD, yang mirip dengan DALL-E 2 dan Midjourney karena menggunakan petunjuk gambar (seperti swafoto Anda) dan petunjuk teks (seperti "fantasi", yang jadi salah satu kategori di Lensa AI) untuk menghasilkan gambar berkualitas tinggi yang terkadang "trippy (seperti halusinasi)".
"Anda ditunjukkan foto-foto yang tidak pernah diambil oleh siapa pun; [app] itu hanya dapat menggabungkannya dari gambar-gambar lain yang pernah dilihatnya," kata Subbarao Kambhampati, profesor di School of Computing and Augmented Intelligence di Arizona State University, AS.
Masalah privasi
Jen King, peneliti kebijakan privasi dan data di Institute for Human-Centered Artificial Intelligence di Stanford University, meragukan klaim Prisma Labs yang tak lagi menggunakan data pribadi pengguna, terutama hasil selfie, usai proses tuntas.
"Saya ragu bahwa seluruh model bisnisnya adalah, 'Beri kami US$10 atau US$15 dan kami akan mengirimkan kembali A.I. glam shot,'" kata dia.
Kebijakan privasi Lensa AI menyatakan "data wajah" dihapus dalam waktu 24 jam setelah diproses dan tidak digunakan untuk mengidentifikasi pengguna individu mana pun. Namun, ketentuannya juga menyatakan bahwa foto dan video pengguna dapat digunakan untuk melatih algoritme Lensa lebih lanjut.
Lalu apakah Anda akan menggunakan Lensa AI? "Tidak," timpal King.
Pornografi deepfake hingga hak cipta van Gogh di halaman berikutnya...
Pornografi hingga Masalah Hak Cipta
Pornografi hasil edit bermunculan dengan memanfaatkan app AI foto. (Foto: Tangkapan Layar Instagram/@lensa.ai)
Pornografi deepfake
Meski menyenangkan melihat foto bak lukisan atau karakter anime atau peri hutan, beberapa kasus menunjukkan kesalahan 'persepsi' dari Lensa AI. Misalnya, tampilan besar mata tak seimbang, roti sobek di perut ditampilkan sebagai six pack. Beberapa pengguna bahkan merasa jadi objek seksual dari Lensa AI.
Beberapa perempuan pengguna mengaku Lensa AI menyertakan rendering gambar seluruh tubuh maski mereka awalnya cuma menginstruksikan selfie close-up.
Sebuah gambar menampilkan avatar dalam kostum bikini metalik ala Princess Leia di film Star Wars: Return of the Jedi. Yang lainnya hanya menyertakan separuh wajah di atas tubuh yang berpakaian minim.
Prisma Labs menyatakan pada halaman F.A.Q. mengakui "seksualisasi sesekali diamati di semua kategori gender."
Menurut laporan TechCrunch, Lensa AI bisa menghasilkan avatar selebritas bertelanjang dada dengan bahannya berupa foto kepala pemain film yang ditempelkan ke tubuh telanjang.
Ribuan lainnya bahkan dibisniskan di berbagai forum, seperti Reddit. Salah satu yang rutin mengunggah gambar porno hasil edit AI berkualitas tinggi (deepfake pornography) adalah Unstable Diffusion.
Platform ini disebut bisa meraup lebih dari US$2.500 per bulan dari beberapa ratus pelanggan.
"Hanya dalam dua bulan, tim kami berkembang menjadi lebih dari 13 orang serta banyak konsultan dan moderator komunitas sukarelawan," kata Arman Chaudhry, salah satu anggota tim adminnya, kepada TechCrunch.
"Kami melihat peluang untuk membuat inovasi dalam kegunaan, pengalaman pengguna, dan kekuatan ekspresi untuk membuat alat yang dapat dimanfaatkan oleh seniman profesional dan bisnis."
Hal yang sama sangat mungkin terjadi dalam konteks upaya untuk membuat gambar porno sebagai balas dendam, atau dalam bahasa Internet Lab, "non-consensual dissemination of intimate images" (NCII).
"Ternyata AI mengambil gambar-gambar hasil Photoshop sebagai izin untuk menghasilkan [karya ]yang liar, dan tampaknya itu menonaktifkan filter NSFW," menurut TechCrunch.
Andrey Usoltsev, kepala eksekutif dan salah satu pendiri Prisma Labs, mengatakan penggunaan Lensa AI dalam "perilaku berbahaya atau melecehkan" merupakan pelanggaran terhadap ketentuan penggunaa.
Masalah hak cipta
Kambhampati mengungkapkan mesin Stable Diffusion berbasis kreasi banyak seniman yang tidak secara eksplisit menyetujui penggunaan karya mereka untuk keuntungan Prisma Labs.
"Jika van Gogh masih hidup hari ini, Anda mungkin perlu membayar van Gogh beberapa lisensi untuk membuat gambar Anda bergaya van Gogh." ujarnya.
Jonathan Lam, artis yang bekerja di video game dan animasi, menyatakan masalah hak cipta ini banyak tak dipedulikan oleh pengguna Lensa AI.
"Bagi banyak orang, setelah karya seni kami dicuri, mereka tidak melihatnya sebagai sesuatu yang pribadi - seperti, 'Oh, tahulah, itu kan cuma style; Anda tidak dapat hak cipta dari style,'" kata dia.
"Namun saya berpendapat bahwa bagi kami, gaya kami sebenarnya adalah identitas kami. Itu yang membedakan kami satu sama lain. Itulah yang membuat kami dapat dipasarkan ke klien," jelas Lam, yang tinggal di Vancouver, British Columbia.
Dia juga mencatat bahwa beberapa karya yang dihasilkan Lensa AI adalah yang tampak seperti rendering tanda tangan seniman.
"Semua penggemar teknologi ini mengatakan bahwa mesin ini menciptakan sesuatu yang baru, tetapi jika tanda tangan senimannya masih ada, itu bukan sesuatu yang baru," cetus Lam.
"Dia hanya menghasilkan sesuatu berdasarkan data yang diberikan"
"Saya pikir masyarakat umum berasumsi bahwa ini adalah program yang baru saja belajar menggambar dengan sendirinya dalam ruang hampa, dan mereka tidak menyadari implikasi yang lebih besar dari eksploitasi data," tambahnya.
"Saat Anda mulai melihat hal-hal ini dimonetisasi dan orang-orang yang riil dieksploitasi dan dilecehkan, itu cukup menakutkan. Dan bahkan lebih menakutkan ketika disamarkan sebagai aplikasi yang menarik."
Merespons hal ini, Prisma Labs di utasnya di Twitter menyatakan bahwa AI "tidak akan menggantikan seniman digital" dan menentang karakterisasi bahwa Lensa merobek karya seniman.
"AI belajar mengenali hubungan antara gambar dan deskripsinya, bukan karya seninya," tulis perusahaan itu.
"Karena sinema tidak membunuh teater dan perangkat lunak akuntansi belum menghilangkan profesi [akuntan], AI tidak akan menggantikan artis tetapi dapat menjadi alat bantu yang hebat," klaim mereka.
