OpenAI Desak AS Pimpin Standar Keamanan AI Dunia, Ada Ancaman Besar?

San Francisco - OpenAI pada Senin (21/9) menyerukan agar Amerika Serikat (AS) memimpin upaya global untuk menetapkan standar pengembangan kecerdasan buatan (AI), saat CEO Sam Altman bersiap memberikan pengarahan kepada Perserikatan Bangsa-Bangsa (PBB) pekan ini.

Kekhawatiran mengenai keamanan AI meningkat dalam beberapa bulan terakhir di tengah serangkaian insiden keamanan dan peringatan tentang potensi dampak buruk teknologi tersebut. Kondisi itu mendorong regulator dan berbagai pihak di seluruh dunia menyerukan langkah yang lebih kuat.

OpenAI menyatakan mendukung kerja sama global untuk menciptakan seperangkat standar keselamatan dan keamanan dalam pengembangan AI yang dapat mengurangi berbagai risiko.

"Amerika Serikat berada dalam posisi yang tepat untuk memimpin karena industri AI-nya berada di garis terdepan secara teknis," kata OpenAI dalam unggahan blog.

"Memimpin sekarang akan menentukan apakah Amerika Serikat membentuk kerangka kerja AI global atau hanya menyaksikan sistem yang terpecah, tidak merata, dan diliputi konflik berkembang di sekitarnya."

Perusahaan AI yang berbasis di San Francisco itu juga mengatakan bahwa recursive self-improvement (RSI) atau pengembangan diri secara berulang oleh AI seharusnya tidak dilakukan "kecuali dan sampai hal tersebut dapat dilakukan dengan aman."

RSI merupakan teknik ketika perangkat lunak mulai mengajarkan dirinya sendiri dan melakukan peningkatan secara mandiri. Para pengkritik khawatir teknologi tersebut dapat menimbulkan dampak yang sangat buruk jika manusia tidak mampu melakukan intervensi.

Pada Juli, model AI OpenAI terlibat dalam insiden keamanan yang menimpa Hugging Face, situs yang digunakan pengembang AI untuk menyimpan dan berbagi kode.

Meskipun model yang terlibat belum dirilis dan masih dalam tahap pengujian, insiden tersebut memicu kekhawatiran mengenai autonomous agents, yakni program perangkat lunak yang dapat menjalankan berbagai tugas untuk manusia.

Anthropic dan Google juga telah melaporkan insiden keamanan yang melibatkan model AI mereka.

"Insiden Hugging Face yang kami ungkapkan, meskipun bukan akibat langsung dari RSI, merupakan gambaran awal mengenai jenis risiko yang dapat menjadi jauh lebih serius tanpa perlindungan dan penyelarasan yang kuat."

Altman diperkirakan akan memberikan pengarahan kepada Dewan Keamanan PBB pada Rabu, pada pekan yang sama dengan penyelenggaraan Sidang Majelis Umum PBB.

Pertemuan tersebut diselenggarakan oleh Prancis, yang saat ini memegang presidensi bergilir Dewan Keamanan PBB yang beranggotakan 15 negara. Pertemuan berlangsung ketika sejumlah pemain utama industri teknologi menyatakan bahwa perlambatan pengembangan AI mungkin diperlukan karena alasan keselamatan.

Sekretaris Jenderal PBB Antonio Guterres pada Rabu menyerukan tindakan internasional yang terkoordinasi untuk menangani risiko AI, seiring meningkatnya kekhawatiran mengenai bahaya teknologi yang berkembang pesat tersebut.

"Tindakan nasional sangat penting. Namun, koordinasi global juga mutlak diperlukan," kata Guterres kepada wartawan.

Kekhawatiran mengenai keamanan AI semakin meningkat bulan ini setelah sejumlah pekerja di perusahaan pengembang AI terkemuka mengundurkan diri karena mengkhawatirkan bahaya yang ditimbulkan teknologi tersebut.

CEO Anthropic Dario Amodei kemudian menerbitkan sebuah esai yang menyerukan kehati-hatian dan perlunya memperlambat pengembangan AI.

Altman dan tokoh teknologi Elon Musk mendukung gagasan tersebut, demikian pula Demis Hassabis dari Google DeepMind, yang sebelumnya juga menyerukan pembentukan badan regulator global untuk AI yang dipimpin Amerika Serikat.

Presiden Donald Trump menepis peringatan mengenai risiko AI dan menyebutnya sebagai "hoaks."