Sekjen PBB Peringatkan Risiko AI bagi Keamanan Global

PBB - Sekretaris Jenderal PBB Antonio Guterres pada Selasa (18/7) memperingatkan bahwa kecerdasan buatan (Artificial Intelligence/AI) dapat menimbulkan risiko bagi perdamaian dan keamanan global. Ia menyerukan semua negara anggota untuk segera memasang pagar pembatas agar teknologi tetap terkendali.

Jelas bahwa AI akan berdampak pada setiap bidang kehidupan kita, kata Guterres pada pertemuan pertama Dewan Keamanan PBB tentang topik tersebut.

"AI generatif memiliki potensi yang sangat besar untuk kebaikan dan kejahatan dalam skala besar," katanya. Ia mencatat, meskipun dapat membantu mengakhiri kemiskinan atau menyembuhkan kanker, teknologi ini juga dapat memiliki "konsekuensi yang sangat serius bagi perdamaian dan keamanan global."

Menteri Luar Negeri Inggris James Cleverly, yang negaranya saat ini memegang jabatan presiden Dewan Keamanan bergilir, mengatakan AI "akan memengaruhi pekerjaan dewan ini. Teknologi itu dapat meningkatkan atau mengganggu stabilitas strategis global."

"Ini menantang asumsi mendasar kami tentang pertahanan dan pencegahan. Menimbulkan pertanyaan moral tentang pertanggungjawaban atas keputusan mematikan di medan perang," kata Cleverly. Inggris akan menjadi tuan rumah KTT AI akhir tahun ini.

Guterres meminta negara-negara anggota untuk memberlakukan pakta yang mengikat secara hukum untuk "melarang sistem senjata otonom mematikan" pada akhir 2026.

Sementara AI dapat digunakan untuk mengidentifikasi pola kekerasan atau untuk memantau gencatan senjata, Guterres memperingatkan bahwa jika digunakan oleh teroris atau pemerintah dengan niat buruk, dapat menyebabkan "tingkat kematian dan kehancuran yang mengerikan."

Dia juga memperingatkan AI yang tidak berfungsi dapat mendatangkan malapetaka, terutama jika teknologi tersebut digunakan dalam kaitannya dengan sistem senjata nuklir atau bioteknologi.

"Saya mendesak sebuah kesepakatan tentang prinsip umum bahwa agensi dan kontrol manusia sangat penting untuk senjata nuklir dan tidak boleh ditarik," katanya.

Dia meminta kelompok kerja untuk mengembangkan opsi tata kelola AI global pada akhir tahun.

Guerres menegaskan kembali dukungannya untuk sebuah entitas PBB untuk mendukung upaya mengatur penggunaan AI, seperti Badan Energi Atom Internasional atau Organisasi Penerbangan Sipil Internasional.