Paus Leo XIV Peringatkan AI Bisa Mengancam Martabat Umat Manusia dan Menjadi 'Instrumen Dominasi'

PARIS - Paus Leo XIV memperingatkan bahwa kecerdasan buatan atau artificial intelligence (AI) dapat mengancam martabat manusia dan menjadi "instrumen dominasi".

Paus Leo berulang kali kembali ke pertanyaan tentang apa artinya menjadi manusia di era mesin yang semakin canggih. Di UNESCO di Paris, ia mengatakan bahwa kemajuan teknologi harus tetap diarahkan kepada manusia, bukan menjadi alat kontrol.

“Upaya kita di bidang ini harus memastikan bahwa teknologi baru tetap melayani manusia, dan bukannya menjadi instrumen dominasi dan ketidakadilan lainnya,” kata Leo dikutip Newsweek.

Komentar Paus Leo muncul ketika pemerintah negara-negara di dunia dan perusahaan teknologi memperdebatkan seberapa cepat kecerdasan buatan harus berkembang dan seberapa banyak regulasi atau pengawasan yang diperlukan.

Di UNESCO, Paus Leo memperingatkan bahwa meningkatnya ketergantungan umat manusia pada mesin dapat mengubah tidak hanya cara orang bekerja tetapi juga cara mereka memahami diri mereka sendiri.

“Selama berabad-abad, banyak tugas yang dulunya dilakukan oleh manusia telah dipercayakan kepada mesin yang kemampuan dan aplikasinya terus berkembang,” katanya. “Baru-baru ini, sistem buatan tertentu bahkan diberi nama yang sama dengan kemampuan berpikir manusia.”

Kemudian, ia mengidentifikasi apa yang disebutnya sebagai paradoks: Seiring sistem komputasi semakin digambarkan dalam hal kecerdasan, masyarakat dapat kehilangan pandangan akan martabat khas manusia.

“Paradoks ini semakin terlihat jelas: Sementara 'kecerdasan' dikaitkan dengan sistem komputasi, kita kesulitan untuk mengakui martabat manusia yang tak terpisahkan, yang hidupnya dinilai berdasarkan kriteria efisiensi dan, ketika dianggap tidak lagi produktif, ditolak dan dibuang,” kata Leo.

Dia juga membedakan antara kemampuan AI untuk memproses informasi dan pencarian makna oleh manusia.

“Meskipun sistem semacam itu dapat mengkorelasikan data, sistem tersebut tidak dapat menjawab pertanyaan yang menyangkut makna kehidupan manusia, yang berakar pada pengalaman hidup,” katanya.

“Namun manusia tidak dapat hidup tanpa makna. Makna adalah oksigen bagi pikiran.”

Kekhawatiran Paus Leo melampaui kemampuan sistem AI individual. Dia memperingatkan bahwa teknologi komunikasi dapat membuat informasi lebih melimpah tanpa harus membuatnya lebih benar.

“Informasi memang berlimpah, tetapi itu tidak sama artinya dengan kebijaksanaan,” katanya. Ia menambahkan bahwa tanpa landasan etika bersama, saluran komunikasi dapat memperbanyak informasi palsu dan kata-kata “yang tanpa makna.”

Dalam kunjungannya ke Prancis, Paus Leo menggunakan gambaran yang bahkan lebih mencolok, memperingatkan tentang kemungkinan adanya "surga mesin" yang dapat menyerbu dan mengatur kehidupan sehari-hari.

“Jika kita ingin menghindari kehilangan kemanusiaan kita di tengah 'surga mesin' yang menyerbu dan membentuk kehidupan kita sehari-hari, ada kebutuhan mendesak akan pendidikan dalam hal kearifan etis dan kemampuan untuk mengakui kebaikan moral,” katanya.