Dunia Berpacu Mengejar Regulasi Pengawasan AI

NEW YORK – Laju inovasi teknologi, terutama kecerdasan buatan (AI) telah melampaui kesiapan tata kelola global. Karenanya, pengembangan AI harus tetap aman, akuntabel, dan tidak memperlebar risiko lintas negara, sehingga kerja sama internasional menjadi kunci menyeimbangkan kepentingan teknologi dan keamanan.

Para pemimpin dunia menyerukan pengamanan dan pengawasan internasional yang lebih kuat terhadap AI dalam Debat Umum sesi ke-81 Majelis Umum Perserikatan Bangsa-Bangsa (PBB), New York, Selasa (22/9). Para pemimpin dunia juga menyoroti perlunya menyeimbangkan inovasi, keamanan, dan kerja sama dalam penggunaan AI.

Sekretaris Jenderal (Sekjen) PBB Antonio Guterres menyerukan koordinasi global yang lebih kuat untuk mengelola risiko AI, termasuk upaya menuju pembentukan Kerangka Kerja Manajemen Risiko AI multilateral yang didukung oleh pengawasan independen. "Bahayanya bukanlah teknologi itu sendiri. Bahayanya adalah teknologi tanpa akuntabilitas," kata Guterres.

Sekjen PBB pun mendesak negara-negara yang berada di garda terdepan pengembangan AI untuk memperkuat dialog, transparansi, kepercayaan, dan kerja sama.

Sementara itu, dengan merujuk AI sebagai kecerdasan super atau super intelligence, Presiden Amerika Serikat (AS) Donald Trump menyatakan dalam pidatonya bahwa AS sepenuhnya menolak segala upaya untuk membangun skema globalis guna mengendalikan AI.

"Kami akan mendorongnya, bukan membatasinya," ujar Trump, seraya menambahkan bahwa AS akan memantau teknologi tersebut secara ketat sembari berupaya mempertahankan kepemimpinannya di bidang AI dengan cara yang aman dan bertanggung jawab.

Presiden Prancis Emmanuel Macron menyandingkan kebutuhan akan kapasitas teknologi dengan pengawasan yang lebih kuat. Dia menyebutkan bahwa setiap kawasan harus mengembangkan daya komputasi, model bahasa besar (large language models/ LLM), dan ekosistem AI mereka sendiri, serta tetap mempertahankan kemampuan untuk mengamati sistem yang mereka gunakan secara cermat dan independen.

"Kita harus membangun kapasitas untuk mengaudit model-model ini, alih-alih bergantung pada segelintir pihak swasta," ujar Macron.

Macron mengakui persaingan global untuk mengembangkan model kecerdasan buatan terdepan (frontier AI) sedang terjadi. Prancis pun berniat untuk ikut serta. Dia juga menyerukan kerja sama internasional yang lebih besar di bidang-bidang yang sensitif, termasuk penggunaan AI di bidang antariksa, pertahanan, dan keamanan siber.

Perlombaan Bebas

Presiden Brasil Luiz Inacio Lula da Silva melangkah lebih jauh dalam mengkritik konsentrasi kekuatan teknologi, dengan memperingatkan bahwa segelintir perusahaan teknologi sedang mendorong perlombaan tanpa batasan etis seraya mengabaikan PBB dan Panel Ilmiah Internasional Independen PBB tentang Kecerdasan Buatan.

"Jika kita tidak mengatasi tantangan dalam meregulasi raksasa-raksasa teknologi dan AI, itu akan menjadi kelalaian sejarah yang tak termaafkan," tutur Lula.