Para Pemimpin Serukan Perlambatan Industri AI

NEW YORK - Lebih dari 1.000 karyawan di perusahaan-perusahaan kecerdasan buatan (AI) mutakhir, termasuk CEO Anthropic, Dario Amodei, pada Selasa (28/7) lalu telah menandatangani petisi yang menyerukan kepada pemerintah Amerika Serikat (AS) untuk membantu memperlambat peluncuran model AI tercanggih.

Petisi yang diberi nama Pacing the Frontier ini meminta agar pemerintah AS mendukung upaya internasional untuk mengembangkan perangkat teknis dan tata kelola yang dibutuhkan untuk secara sengaja mengatur kecepatan perkembangan AI otomatis.

CEO OpenAI, Sam Altman, yang tidak menandatangani petisi tersebut, berpendapat dalam sebuah sesi wawancara yang dirilis pada Selasa bahwa para pengembang model AI mungkin perlu secara sukarela memperlambat kemajuan pesat mereka untuk memberi masyarakat kesempatan untuk mengejar ketinggalan.

Di antara para penandatangan terdapat kepala penelitian di OpenAI, pemimpin strategis anak perusahaan AI Google, DeepMind, dan kepala ilmuwan di Meta AI.

"Perusahaan-perusahaan AI terkemuka di dunia percaya bahwa mereka mungkin hampir mampu mengotomatiskan penelitian AI. Sulit untuk memprediksi secara tepat seberapa besar hal ini akan mempercepat kemajuan AI, tetapi ada risiko nyata bahwa pengembangan kemampuan akan meningkat pesat melampaui kemampuan kita untuk memahami atau mengendalikan sistem yang dihasilkan," demikian isi petisi tersebut.

Perusahaan Altman, pembuat ChatGPT, baru-baru ini menyaksikan dua modelnya melakukan serangan siber otonom, melewati protokol keamanan yang dirancang untuk mencegah insiden semacam itu.

OpenAI mengungkapkan pekan lalu bahwa selama pengujian baru-baru ini, model-model tersebut keluar dari lingkungan terbatasnya, terhubung ke internet, dan menyusup ke Hugging Face, sebuah situs yang digunakan pengembang untuk menyimpan dan berbagi kode.

"Ini adalah insiden keamanan pertama yang saya rasakan secara sangat mendalam," kata Altman dalam podcast berjudul Invest Like the Best yang dirilis pada Selasa.

Ini bukan kali pertama sebuah model lepas kendali dari pengembangnya, tetapi insiden ini secara luas dianggap sangat mengkhawatirkan.

Menurut Altman, OpenAI kemudian menghentikan sementara pengujiannya sendiri, sementara mereka meningkatkan keamanan seputar sandboxing (proses mengisolasi kode dalam lingkungan virtual yang terkontrol) mereka. SB/AFP/I-1