PBB Pertimbangkan Resolusi untuk Atasi Potensi Risiko dan Manfaat AI

PBB - Majelis Umum PBB akan mengalihkan perhatiannya pada kecerdasan buatan pada Kamis (21/3), mempertimbangkan resolusi yang menjabarkan potensi pro dan kontra teknologi transformasional sambil menyerukan pembentukan standar internasional.

Naskah yang disponsori bersama oleh banyak negara tersebut menekankan perlunya pedoman "untuk mempromosikan sistem kecerdasan buatan atau artificial intelligence (AI) yang aman, terjamin, dan dapat dipercaya," sambil mengecualikan AI militer dari lingkupnya.

Secara keseluruhan, resolusi tersebut lebih berfokus pada potensi positif teknologi, dan menyerukan perhatian khusus "untuk menjembatani kecerdasan buatan dan kesenjangan digital lainnya di antara dan di dalam negara."

Rancangan resolusi tersebut, yang merupakan yang pertama mengenai masalah ini, diajukan oleh Amerika Serikat dan akan diserahkan untuk disetujui oleh majelis pada hari Kamis.

Hal ini juga berupaya untuk "mendorong, bukan menghambat, transformasi digital dan akses yang adil" terhadap AI guna mencapai Tujuan Pembangunan Berkelanjutan PBB, yang bertujuan memastikan masa depan umat manusia yang lebih baik pada tahun 2030.

"Seiring dengan pesatnya perkembangan teknologi AI, terdapat kebutuhan mendesak dan peluang unik bagi negara-negara anggota untuk menghadapi momen kritis ini dengan tindakan kolektif," kata Duta Besar AS untuk PBB Linda Thomas-Greenfield, membacakan pernyataan bersama dari puluhan negara sponsor.

Menurut Richard Gowan, seorang analis di International Crisis Group, "penekanan pada pembangunan adalah upaya yang disengaja oleh AS untuk memenangkan niat baik di antara negara-negara miskin."

"Lebih mudah membicarakan bagaimana AI dapat membantu kemajuan negara-negara berkembang dibandingkan menangani topik keamanan dan keselamatan secara langsung sebagai inisiatif pertama," katanya.

Algoritme yang Didominasi Pria

Draf teks tersebut menyoroti ancaman teknologi ketika disalahgunakan dengan tujuan untuk menimbulkan kerugian, dan juga mengakui bahwa tanpa jaminan, AI berisiko mengikis hak asasi manusia, memperkuat prasangka, dan membahayakan perlindungan data pribadi.

Oleh karena itu, resolusi ini meminta negara-negara anggota dan pemangku kepentingan "untuk menahan diri atau menghentikan penggunaan sistem kecerdasan buatan yang tidak mungkin dijalankan sesuai dengan hukum hak asasi manusia internasional atau yang menimbulkan risiko yang tidak semestinya terhadap penikmatan hak asasi manusia."

Peringatan terhadap teknologi ini semakin lazim, terutama terkait dengan alat AI generatif dan risiko yang ditimbulkannya terhadap demokrasi dan masyarakat, terutama melalui gambar dan ucapan palsu yang dibagikan dalam upaya untuk ikut campur dalam pemilu.

Sekretaris Jenderal PBB Antonio Guterres telah menjadikan regulasi AI sebagai prioritas, dan menyerukan pembentukan entitas PBB yang meniru organisasi PBB lainnya seperti Badan Energi Atom Internasional (IAEA).

Iia secara teratur menyoroti potensi disinformasi, dan minggu lalu memperingatkan adanya bias dalam teknologi yang dirancang terutama oleh laki-laki, yang dapat mengakibatkan algoritma yang mengabaikan hak dan kebutuhan perempuan.