20 Negara Dorong Standar Keselamatan Kecerdasan Buatan

Washington DC - Para pemimpin lebih dari 20 negara mendesak penerapan langkah-langkah keselamatan yang mengikat untuk kecerdasan buatan (AI) tingkat lanjut pada Senin (21/9), seraya memperingatkan perkembangan teknologi tersebut dapat melampaui kemampuan untuk mengendalikannya.

Dalam pernyataan bersama, para penandatangan mengatakan model AI mutakhir (frontier AI) dapat menimbulkan “risiko serius terhadap keselamatan dan keamanan” apabila tidak dikelola dengan baik.

Mereka menyoroti sejumlah kasus ketika program AI berhasil melewati pengamanan dalam pengujian dan memperoleh akses tanpa izin ke sistem dunia nyata, termasuk insiden keamanan di Hugging Face pada Juli.

Para penandatangan antara lain pemimpin Norwegia, Finlandia, Australia, Kanada, Jerman, Spanyol, Irlandia, Belanda, Singapura, Afrika Selatan, dan Kenya, serta Presiden Komisi Eropa Ursula von der Leyen.

Amerika Serikat (AS) dan Tiongkok, yang menjadi kekuatan utama dalam pengembangan AI, serta Inggris, Prancis, Jepang, dan India tidak termasuk dalam daftar penandatangan. Pernyataan tersebut masih terbuka bagi negara lain untuk memberikan dukungan.

Para pemimpin menyerukan perusahaan AI menerapkan protokol keselamatan yang transparan, termasuk pengujian wajib dan evaluasi independen. Mereka menegaskan AI “harus tetap berada di bawah arahan, pengawasan, dan kendali manusia”.

Mereka juga menekankan penguatan pengawasan AI tidak boleh memperlebar kesenjangan antara negara dalam memperoleh manfaat teknologi tersebut.

Para pemimpin mengusulkan negara-negara anggota PBB mempertimbangkan pembentukan lembaga internasional yang dapat menetapkan standar, melakukan verifikasi, serta mempertemukan negara-negara ketika kemampuan AI melampaui ambang batas tertentu.

Pernyataan tersebut disampaikan menjelang pertemuan tahunan para pemimpin dunia di PBB, New York, yang akan membahas semakin besarnya peran AI dalam masyarakat serta dampaknya terhadap lapangan kerja dan keamanan siber. Para pemimpin diperkirakan turut membahas kerangka kerja internasional untuk AI.

Presiden AS Donald Trump sebelumnya menyatakan penolakannya terhadap langkah-langkah keselamatan AI dan pada Sabtu (19/9) berjanji tidak akan membiarkan “kehancuran” industri AI.