Paus Leo XIV Peringatkan Meningkatnya Ketergantungan pada Algoritma

KOTA VATIKAN — Pemimpin Gereja Katolik sedunia, Paus Leo XIV, pada Rabu (16/9) memperingatkan agar tidak mendelegasikan keputusan yang seharusnya diambil oleh manusia kepada algoritma, di tengah meningkatnya kekhawatiran tentang risiko yang terkait dengan kecerdasan buatan (AI).

"Perkembangan teknologi, penyebaran media massa dan jejaring sosial, serta peningkatan penggunaan kecerdasan buatan telah membuka kemungkinan baru dengan meruntuhkan hambatan dan jarak," kata Paus Leo dalam audiensi umum mingguan di Vatikan.

"Di sisi lain, hubungan cenderung menjadi semakin kurang personal dan semakin virtual, dan ada risiko terbiasa mendelegasikan keputusan yang seharusnya hanya menjadi wewenang hati nurani manusia kepada algoritma," imbuh Paus saat berbicara kepada ribuan umat yang berkumpul di Lapangan Santo Petrus.

"Memastikan bahwa hubungan sosial memiliki substansi nyata dan kedalaman pribadi, dalam hal ini, adalah kontribusi yang ingin diberikan oleh komunitas Kristen," tegas dia.

Kekhawatiran terhadap AI telah meningkat dalam beberapa pekan terakhir menyusul beberapa insiden keamanan dan kemampuan yang muncul dari model kecerdasan buatan untuk meningkatkan diri tanpa campur tangan manusia. Perdebatan sekarang juga menyangkut kemampuan sektor ini untuk mengatur dirinya sendiri.

Dalam dokumen besar pertamanya, ensiklik Magnifica Humanitas (Kemanusiaan yang Agung), yang diterbitkan pada Mei, Paus mengeluarkan seruan yang tegas untuk melucuti AI guna mencegahnya mendominasi umat manusia.

Dalam beberapa bulan terakhir, Vatikan juga telah meningkatkan intervensi dan inisiatifnya dalam mendukung tata kelola AI internasional yang berlandaskan martabat manusia, khususnya di bidang teknologi nuklir, budaya, dan kreasi artistik. SB/AFP/I-1