Paus Ingatkan Risiko Algoritma AI

VATICAN CITY – Paus Leo XIV pada Sabtu (24/1), menekankan risiko kecerdasan buatan generatif, termasuk potensi pengambilalihan identitas dan relasi manusia, pengaruhnya terhadap opini publik, serta kemampuannya memperdalam polarisasi sosial.

Dikutip dari The Straits Times, dalam pesan memperingati Hari Komunikasi Sosial Sedunia, Paus mengatakan sistem AI mencerminkan cara pandang para penciptanya dan dapat membentuk pola pikir dengan mereproduksi bias yang tertanam dalam data yang diproses.

“Tantangannya… adalah soal melindungi identitas manusia dan relasi yang autentik,” ujar Paus.

Peringatan Paus Leo XIV muncul seiring AI generatif berkembang pesat dalam meniru, mengubah, dan menciptakan gambar, musik, serta teks hingga pada tingkat yang terkadang sulit dibedakan dari karya buatan manusia.

Pada 2023, pendahulunya, Paus Fransiskus, sempat menjadi objek gambar palsu berbasis AI yang viral, menampilkan dirinya mengenakan jaket puffer putih. Sejak itu, AI generatif kerap digunakan oleh sejumlah tokoh publik, termasuk Presiden Amerika Serikat Donald Trump, yang mengunggah atau membagikan ulang gambar hasil komputer di akun daringnya.

Paus Leo XIV memperingatkan bahwa hanya segelintir perusahaan yang memegang kekuasaan besar atas pengembangan AI, dan bahwa alat-alat AI meningkatkan “kesulitan untuk membedakan antara realitas dan simulasi”.

Sejak terpilih pada Mei lalu sebagai Paus pertama asal Amerika Serikat, Paus Leo XIV secara konsisten memperingatkan pengaruh teknologi AI yang kian besar. Ia juga mengkritik sistem yang menyajikan probabilitas statistik seolah-olah sebagai pengetahuan yang dapat diandalkan, seraya menegaskan bahwa alat semacam itu pada akhirnya hanya menawarkan pendekatan atau perkiraan.

Menurutnya, tantangan ke depan adalah membangun tata kelola yang efektif, serta mendidik generasi muda tentang bagaimana algoritma memengaruhi persepsi terhadap realitas. Pada Desember lalu, ia juga mengecam percepatan penggunaan AI dalam aplikasi militer dan memperingatkan bahaya menyerahkan keputusan hidup dan mati kepada mesin.