Pakar PBB: Pengembangan AI Tak Bisa Hanya Bergantung pada Pasar

PBB - Pengembangan kecerdasan buatan atau artificial intelligence (AI) tidak boleh dipandu oleh kekuatan pasar saja, para ahli PBB memperingatkan pada hari Kamis (19/9), menyerukan terciptanya alat untuk kerja sama global.

Namun mereka menahan diri untuk mengusulkan pembentukan suatu badan pengatur global yang kuat untuk mengawasi peluncuran dan evolusi suatu teknologi, yang penyebarannya telah menimbulkan kekhawatiran seputar bias, penyalahgunaan, dan ketergantungan.

Panel yang terdiri dari sekitar 40 ahli dari bidang teknologi, hukum, dan perlindungan data dibentuk oleh Sekretaris Jenderal PBB Antonio Guterres pada bulan Oktober.

Laporan mereka yang diterbitkan beberapa hari sebelum dimulainya "KTT Masa Depan", menyuarakan kewaspadaan atas kurangnya tata kelola global AI serta pengecualian efektif negara-negara berkembang dari perdebatan tentang masa depan teknologi tersebut.

Dari 193 negara anggota PBB, hanya tujuh yang menjadi bagian dari tujuh inisiatif utama terkait dengan AI, sementara 118 negara sama sekali tidak hadir -- sebagian besar negara di belahan bumi selatan.

"Saat ini, terdapat defisit tata kelola global terkait AI," yang pada hakikatnya bersifat lintas batas, para ahli memperingatkan dalam laporan mereka.

"AI harus melayani kemanusiaan secara adil dan aman," kata Guterres minggu ini.

"Jika tidak diatasi, bahaya yang ditimbulkan oleh kecerdasan buatan dapat menimbulkan implikasi serius bagi demokrasi, perdamaian, dan stabilitas."

Terlambat?

Berdasarkan seruannya tersebut, para ahli meminta anggota PBB untuk menyiapkan mekanisme guna memperlancar kerja sama global dalam isu ini, serta mencegah penyebaran yang tidak diinginkan.

"Pengembangan, penerapan, dan penggunaan teknologi semacam itu tidak dapat diserahkan pada keinginan pasar saja," kata laporan itu.

Pertama-tama, ia menyerukan pembentukan sekelompok ahli ilmiah tentang AI yang meniru forum ahli Panel Antarpemerintah tentang Perubahan Iklim (IPCC), yang laporannya merupakan pernyataan terakhir tentang isu perubahan iklim.

Panel tersebut akan memberi pengarahan kepada masyarakat internasional tentang risiko yang muncul, mengidentifikasi kebutuhan penelitian serta bagaimana penelitian dapat digunakan untuk mengurangi kelaparan, kemiskinan, dan ketidaksetaraan gender, di antara tujuan-tujuan lainnya.

Usulan tersebut dimasukkan dalam rancangan Global Digital Compact, yang masih dalam pembahasan, yang akan diadopsi pada hari Minggu di "KTT Masa Depan."

Laporan tersebut mendukung pembentukan struktur "koordinasi" yang ringan dalam sekretariat PBB.

Namun, hal itu tidak sampai pada pembentukan badan tata kelola internasional yang lengkap -- seperti yang diinginkan oleh Guterres -- berdasarkan model pengawas nuklir PBB, IAEA.

"Jika risiko AI menjadi lebih serius dan lebih terkonsentrasi, mungkin perlu bagi Negara Anggota untuk mempertimbangkan lembaga internasional yang lebih kuat dengan kewenangan pemantauan, pelaporan, verifikasi, dan penegakan hukum," kata laporan itu.

Para penulis mengakui bahwa karena kecepatan perubahan AI yang sangat tinggi, tidak ada gunanya mencoba menyusun daftar lengkap bahaya yang ditimbulkan oleh teknologi yang terus berkembang ini.

Namun mereka menyoroti bahaya disinformasi bagi demokrasi, deepfake yang semakin realistis -- khususnya yang bersifat pornografi, serta evolusi senjata otonom dan penggunaan AI oleh kelompok kriminal dan teroris.

"Namun, mengingat kecepatan, otonomi, dan ketidakjelasan sistem AI, menunggu munculnya ancaman dapat berarti bahwa respons apa pun akan datang terlambat," kata laporan tersebut. "Penilaian ilmiah dan dialog kebijakan yang berkelanjutan akan memastikan dunia tidak kaget."