PBB: Dunia Tidak Boleh Biarkan AI Menentukan Masa Depan Umat Manusia

Jenewa – Sekretaris Jenderal Perserikatan Bangsa-Bangsa (PBB) Antonio Guterres menyerukan pembentukan sistem tata kelola global untuk memastikan kecerdasan buatan (artificial intelligence/AI) dimanfaatkan demi kepentingan umat manusia. Ia memperingatkan dunia agar tidak membiarkan perkembangan AI yang sangat pesat justru menentukan masa depan manusia tanpa pengawasan.

"Dengan kemajuan AI yang sangat pesat, sebuah eksperimen sedang dilakukan pada masyarakat kita sendiri, tanpa rencana dan tanpa persetujuan. Itu tidak berkelanjutan," kata Guterres saat membuka Dialog Global Pertama tentang Tata Kelola AI di Jenewa, Senin (6/7).

Dilansir dari AFP, menurut Guterres, AI telah mengubah berbagai aspek kehidupan manusia. Namun, tantangan utama saat ini adalah memastikan transformasi tersebut dikendalikan secara bersama, bukan sebaliknya.

"AI sudah mengubah dunia kita. Pertanyaannya adalah apakah kita akan membentuk transformasi ini bersama-sama, atau membiarkan transformasi ini membentuk kita," ujarnya.

Ia menilai sistem AI kini bukan lagi sekadar alat yang menunggu instruksi manusia. Teknologi tersebut sudah mampu menulis kode, beroperasi secara daring, hingga mengambil keputusan dengan keterlibatan manusia yang semakin terbatas.

"Mereka menulis kode, bertindak secara daring, dan membuat pilihan dengan pengawasan manusia yang semakin berkurang. Lembaga-lembaga kita dibangun untuk mengatur mesin yang mengikuti perintah, bukan mesin yang membuat keputusan sendiri," katanya.

Guterres juga menyoroti fenomena vibe coding, yakni penggunaan AI untuk menghasilkan kode hanya berdasarkan instruksi sederhana dari pengguna. Menurutnya, teknologi itu memang dapat menghasilkan inovasi, tetapi tidak boleh dijadikan dasar dalam menentukan arah masa depan manusia.

"Namun kita tidak bisa mengkodekan kebenaran melalui getaran. Kita tidak bisa mengkodekan masa depan umat manusia melalui getaran," tegasnya.

Selain itu, ia mengingatkan risiko konsentrasi kekuasaan AI pada segelintir perusahaan dan negara, yang berpotensi membuat banyak negara tidak memiliki peran dalam menentukan masa depan teknologi tersebut.

Di sisi lain, Guterres menilai AI memiliki potensi besar untuk mempercepat pembangunan, meningkatkan layanan kesehatan, dan memperluas akses pendidikan. Namun, pemanfaatannya harus tetap mengedepankan keselamatan, perlindungan hak asasi manusia, serta standar keamanan yang disepakati bersama.

Ia juga menyerukan pembentukan Janji Keamanan Anak Berbasis AI yang mewajibkan perusahaan membuktikan bahwa sistem AI yang dapat diakses anak-anak aman dan menerapkan toleransi nol terhadap eksploitasi seksual.

"Tidak ada anak yang seharusnya menjadi kelinci percobaan untuk AI yang tidak diatur," katanya.