Paus Fransiskus Wanti-wanti Potensi Bahaya AI Buat Manusia

Paus Fransiskus memperingatkan dampak berbahaya dari penggunaan kecerdasan buatan atau AI yang belakangan marak terjadi. Ia meminta pengembang bertanggung jawab saat menggunakan maupun mengembangkan teknologi AI.

Dalam sebuah pernyataan pada Selasa (8/8), Fransiskus menyinggung bias ancaman algoritmik dalam teknologi AI dan meminta masyarakat mewaspadai agar logika kekerasan dan diskriminasi tidak mengakar dalam teknologi AI.

Terlebih, penggunaan perangkat AI dianggap bisa mengorbankan individu yang paling rapuh, sehingga bisa tersisih.

Fransiskus menyoroti "kemungkinan mengganggu dan efek ambivalen" dan mendesak perusahaan teknologi yang akan mengembangkan atau menggunakan AI, untuk melakukannya secara bertanggung jawab.

"Ketidakadilan dan ketidaksetaraan memicu konflik dan permusuhan," kata Paus Fransiskus.

"Kebutuhan mendesak untuk mengarahkan konsep dan penggunaan kecerdasan buatan dengan cara yang bertanggung jawab, sehingga dapat melayani umat manusia dan melindungi rumah kita bersama, mengharuskan refleksi etis diperluas ke bidang pendidikan dan hukum," sambungnya.

Pernyataan Fransiskus sejalan dengan seruan dari beberapa pakar AI untuk memastikan algoritme AI 'diselaraskan' dengan baik untuk mendukung hak asasi manusia dan nilai-nilai yang dianut secara luas.

Pakar industri dan pembuat kebijakan lainnya telah menyatakan keprihatinannya bahwa AI dapat memfasilitasi penyebaran penipuan, disinformasi, serangan siber, dan bahkan pembuatan senjata biologis.

Paus juga telah menjadi subjek pemalsuan yang dilakukan oleh AI. Awal tahun ini, sebuah gambar yang dibuat oleh AI menampilkan Paus mengenakan mantel putih yang terinspirasi dari Balenciaga dan menjadi viral.

Pesan dari Paus itu juga berkenaan dengan tema Hari Perdamaian Dunia tahun 2024, yang menurut Paus akan berfokus pada AI dan perdamaian.

"Perlindungan martabat manusia dan kepedulian terhadap persaudaraan yang secara efektif terbuka untuk seluruh keluarga manusia, adalah kondisi yang sangat diperlukan untuk pengembangan teknologi untuk membantu berkontribusi pada promosi keadilan dan perdamaian di dunia," kata dia dikutip dari CNN.

Kegusaran terhadap AI juga disampaikan oleh Sekretaris Jenderal Persatuan Bangsa-bangsa (PBB) António Guterres. Menurutnya, penyalahgunaan AI bisa menghasilkan penyebaran misinformasi atau hoaks hingga senjata nuklir.

Guterres mengatakan jika AI menjadi senjata utama untuk melancarkan serangan siber, membuat deepfake, atau untuk menyebarkan disinformasi dan ujaran kebencian, maka kehadiran teknologi ini menghasilkan konsekuensi yang sangat serius bagi perdamaian dan keamanan global.

"Tidak perlu jauh-jauh dari media sosial. Alat dan platform yang dirancang untuk meningkatkan hubungan antar manusia kini digunakan untuk merusak pemilihan umum, menyebarkan teori konspirasi, dan menghasut kebencian dan kekerasan," katanya dalam pertemuan Dewan Keamanan PBB di Inggris pada Selasa (18/7), dikutip dari laman resmi PBB.

Guterres juga mencatat perdebatan mengenai tata kelola AI, perlu pendekatan universal serta menggarisbawahi pengalaman serupa di masa lalu, yang menawarkan penyelesaian di bawah kepemimpinan PBB.

Dengan demikian, kehadiran teknologi AI ini bisa jadi sesuatu yang menyatukan bangsa-bangsa, bukan malah sebaliknya.

"Entitas baru PBB akan mengumpulkan tenaga ahli dan menempatkannya untuk digunakan oleh komunitas internasional. Dan hal ini dapat mendukung kolaborasi dalam penelitian dan pengembangan alat AI untuk mempercepat pembangunan berkelanjutan," lanjutnya.