Pakar PBB: Pengembangan AI Tak Bisa Hanya Bergantung pada Pasar

Namun, hal itu tidak sampai pada pembentukan badan tata kelola internasional yang lengkap -- seperti yang diinginkan oleh Guterres -- berdasarkan model pengawas nuklir PBB, IAEA.

"Jika risiko AI menjadi lebih serius dan lebih terkonsentrasi, mungkin perlu bagi Negara Anggota untuk mempertimbangkan lembaga internasional yang lebih kuat dengan kewenangan pemantauan, pelaporan, verifikasi, dan penegakan hukum," kata laporan itu.

Para penulis mengakui bahwa karena kecepatan perubahan AI yang sangat tinggi, tidak ada gunanya mencoba menyusun daftar lengkap bahaya yang ditimbulkan oleh teknologi yang terus berkembang ini.

Namun mereka menyoroti bahaya disinformasi bagi demokrasi, deepfake yang semakin realistis -- khususnya yang bersifat pornografi, serta evolusi senjata otonom dan penggunaan AI oleh kelompok kriminal dan teroris.

"Namun, mengingat kecepatan, otonomi, dan ketidakjelasan sistem AI, menunggu munculnya ancaman dapat berarti bahwa respons apa pun akan datang terlambat," kata laporan tersebut. "Penilaian ilmiah dan dialog kebijakan yang berkelanjutan akan memastikan dunia tidak kaget."