Paus Fransiskus Peringatkan Risiko Buruk dari Kecerdasan Buatan

VATIKAN - Paus Fransiskus, pada Rabu (24/1), memperingatkan bahaya buruk dari kecerdasan buatan atau artificial intelligence (AI), setelah mengakui bahwa ia adalah korban foto palsu AI dan memperbarui seruan agar peraturan di seluruh dunia memanfaatkan inovasi tersebut demi kebaikan bersama.

Dikutip dari The Straits Times, kekhawatiran dan harapan Paus terhadap AI disampaikan dalam pesannya pada Hari Komunikasi Sosial Sedunia Gereja Katolik Roma, yang akan diperingati di seluruh dunia pada tanggal 12 Mei.

Meskipun ia mendesak masyarakat untuk sementara waktu mengesampingkan prediksi bencana dan dampaknya yang mematikan terhadap hal-hal baru, pesan tiga halamannya sebagian besar berisi pesan yang menakutkan, memperingatkan polusi kognitif yang dapat memutarbalikkan kenyataan, mempromosikan narasi palsu dan memenjarakan orang-orang dalam ruang gaung ideologis.

"Kita perlu memikirkan masalah disinformasi dalam bentuk berita palsu yang sudah lama ada, yang saat ini bisa terjadi. Deepfakes yaitu penciptaan dan penyebaran gambar yang tampak masuk akal, namun keliru. Saya juga menjadi sasarannya," tulis Paus Fransiskus.

Rupanya yang dimaksud adalah foto palsu dirinya yang menjadi viral di media sosial tahun lalu. Gambar tersebut menggambarkan dia mengenakan mantel puffer putih sepanjang mata kaki yang dibuat oleh seseorang yang menggunakan program penghasil gambar.

Pesan Audio Palsu

Paus Fransiskus juga berbicara tentang pesan audio palsu hasil AI, yang menggunakan suara seseorang untuk mengatakan hal-hal yang tidak pernah diucapkan orang tersebut.

Pada hari Senin, Jaksa Agung Negara Bagian New Hampshire, Amerika Serikat, mengatakan kantornya telah membuka penyelidikan terhadap asal usul audio palsu yang meniru suara Presiden Joe Biden dan mendorong pemilih untuk tidak memberikan suara pada pemilihan pendahuluan presiden pada hari Selasa.

"Teknologi simulasi di balik program-program ini dapat berguna dalam bidang-bidang tertentu, namun menjadi buruk ketika hal itu merusak hubungan kita dengan orang lain dan dengan kenyataan," tulis Paus.

Dia memperbarui seruannya bulan lalu untuk membuat perjanjian internasional yang mengikat secara hukum untuk mengatur AI.

Dalam pesannya, ia berbicara tentang "patologi terkait" AI, termasuk penurunan pluralisme dan berkembangnya "pemikiran kelompok", di mana posisi konsensus diambil tanpa mempertimbangkan kritik atau alternatif dari luar.

Paus Fransiskus juga berbicara tentang bahaya AI di media, khususnya dalam pemberitaan perang, yang menurutnya dapat menjadi sasaran perang paralel yang dilakukan melalui kampanye disinformasi.

"AI harus mendukung dan tidak menghilangkan peran jurnalisme di lapangan," katanya.