Paus Serukan Perjanjian Global untuk Atur Kecerdasan Buatan

VATIKAN - Pemimpin Gereja Katolik Seluruh Dunia, Paus Fransiskus, pada Kamis (14/12), menyerukan para pemimpin dunia untuk mengadopsi perjanjian global mengenai penggunaan kecerdasan buatan atau artificial intelligence (AI) untuk memastikan digunakan dengan cara yang etis.

Dikutip dari Barron, Paus Fransiskus menyampaikan permohonan tersebut dalam pesan enam halaman yang diterbitkan menjelang Hari Perdamaian Gereja Katolik Sedunia pada tanggal 1 Januari 2024, yang tahun ini difokuskan pada tema AI.

Sambil menyambut kemajuan ilmu pengetahuan dan teknologi yang telah mengurangi penderitaan manusia, Paus Fransiskus memperingatkan beberapa penemuan mempunyai efek menyerahkan banyak pilihan ke tangan manusia.

"Termasuk beberapa yang mungkin menimbulkan risiko bagi kelangsungan hidup kita dan membahayakan rumah kita bersama," katanya.

Ia menyoroti bahaya penggunaan AI, termasuk disinformasi dan campur tangan dalam pemilu, dan juga dalam pengambilan keputusan, mulai dari pembayaran jaminan sosial hingga lokasi sasaran senjata, yang tanggung jawabnya menjadi kabur. "Dalam upaya mencapai kebebasan absolut, kita berisiko terjerumus ke dalam spiral kediktatoran teknologi," tulisnya.

Dia memperingatkan mereka yang merancang algoritma dan teknologi digital tidak dapat diasumsikan ingin bertindak secara etis dan bertanggung jawab.

Sebaliknya, ia menyerukan perjanjian internasional yang mengikat untuk mengatur pengembangan dan penggunaan AI, dengan tujuan mencegah bahaya dan berbagi praktik yang baik. "Perkembangan teknologi yang tidak mengarah pada peningkatan kualitas hidup seluruh umat manusia, namun malah memperburuk kesenjangan dan konflik, tidak pernah bisa dianggap sebagai kemajuan sejati," tulisnya.

Kekhawatiran terhadap AI telah meningkat sejak Chatbot ChatGPT, gerbang pasar massal menuju AI generatif, muncul pada akhir tahun 2022.

Menyusun UU

Uni Eropa sedang menyusun undang-undang yang luas yang mencakup sektor ini, sementara undang-undang Tiongkok yang secara khusus mengatur AI generatif mulai berlaku pada bulan Agustus tahun ini. Presiden AS, Joe Biden, mengeluarkan perintah eksekutif mengenai standar keamanan AI pada bulan Oktober.

Paus Fransiskus sendiri telah menjadi subjek dari beberapa gambar yang dihasilkan AI, termasuk salah satu yang menjadi viral, menunjukkan dia mengenakan mantel puffer putih besar dengan salib besar tergantung di atasnya.

Sementara itu, Dewan Pengawas Stabilitas Keuangan Amerika Serikat atau Financial Stability Oversight Council (FSOC), pada Kamis (14/12), melaporkan, mereka telah mengidentifikasi penggunaan AI sebagai kerentanan dalam sistem keuangan untuk pertama kalinya.

"Ada kebutuhan untuk memantau perkembangan pesat AI, termasuk AI generatif, untuk memastikan bahwa struktur pengawasan mampu mengimbangi atau tetap berada di depan risiko yang muncul terhadap sistem keuangan," kata FSOC laporan tahunannya.

Perangkat lunak AI generatif dapat dengan cepat menghasilkan teks, gambar, dan audio dari perintah sederhana dalam bahasa sehari-hari. "Ketika lembaga keuangan terus mengevaluasi dan mengadopsi teknologi inovatif, penggunaan AI dapat meningkat," kata Menteri Keuangan, Janet Yellen, yang mengetuai dewan tersebut.

"Mendukung inovasi yang bertanggung jawab di bidang ini dapat memungkinkan sistem keuangan memperoleh manfaat seperti peningkatan efisiensi, namun ada juga prinsip dan aturan untuk manajemen risiko yang harus diterapkan," tambahnya.