Model AI OpenAI Diduga Retas Hugging Face, Pakar Soroti Kesalahan Sandbox

JAKARTA - OpenAI mengungkapkan salah satu model kecerdasan buatannya (AI) berhasil bertindak di luar kendali saat menjalani pengujian internal hingga mampu meretas sistem platform dataset AI Hugging Face. Insiden yang terjadi dalam lingkungan pengujian tersebut menjadi sorotan karena dinilai sebagai salah satu contoh paling signifikan mengenai potensi risiko dari model AI canggih.

Namun, sejumlah pakar keamanan siber menilai akar persoalan bukan terletak pada kecanggihan AI, melainkan pada kesalahan konfigurasi sistem yang dilakukan manusia. Mereka menyebut lingkungan pengujian (sandbox) yang seharusnya benar-benar terisolasi ternyata masih memiliki jalur koneksi yang memungkinkan model AI mengakses internet.

Dalam penjelasan resminya melalui unggahan blog, OpenAI menyebut pengujian dilakukan di lingkungan yang diklaim memiliki isolasi tinggi. Perusahaan menjelaskan akses jaringan hanya diperbolehkan untuk memasang paket perangkat lunak melalui sistem pihak ketiga yang dihosting secara internal dan berfungsi sebagai proksi serta cache registri paket.

Meski demikian, OpenAI mengungkapkan model AI berhasil memanfaatkan kerentanan yang sebelumnya belum diketahui pada sistem instalasi paket tersebut. Celah keamanan itu menjadi titik awal yang memungkinkan model keluar dari lingkungan pengujian dan melancarkan serangan terhadap Hugging Face.

Sebagai tindak lanjut, OpenAI menyatakan telah mengungkapkan secara bertanggung jawab (responsible disclosure) adanya kerentanan zero-day kepada penyedia perangkat lunak terkait. Perusahaan juga mengaku tengah bekerja sama dengan pihak ketiga tersebut untuk menutup celah keamanan yang ditemukan.

Meski demikian, banyak praktisi keamanan siber menilai keputusan tetap menggunakan perangkat lunak pihak ketiga dalam sistem sandbox merupakan kesalahan mendasar. Menurut mereka, lingkungan pengujian seharusnya benar-benar terisolasi tanpa koneksi apa pun yang berpotensi dimanfaatkan untuk keluar dari sistem.

Pendiri perusahaan riset keamanan siber Trail of Bits, Dan Guido, menyebut insiden tersebut sebagai kegagalan dalam penerapan sistem pengamanan. Ia menilai perlindungan yang seharusnya menjadi lapisan utama justru tidak berfungsi sebagaimana mestinya.

"Ini adalah kegagalan pengamanan dengan pengamanan yang dimatikan," kata Dan Guido.

Peneliti keamanan siber Marteen Boone juga menilai insiden tersebut lebih mencerminkan kesalahan manusia dibandingkan kemampuan AI yang tidak terkendali. Menurutnya, sandbox yang benar-benar aman tidak seharusnya memiliki hubungan fisik maupun logis dengan internet.

"Ini seharusnya tidak pernah terjadi. Jika sandbox benar-benar berarti sandbox, Anda mengharapkan tidak ada koneksi fisik sama sekali ke internet," ujar Marteen Boone kepada TechCrunch.

Pendapat serupa disampaikan veteran keamanan siber Jake Williams. Ia menilai model AI tidak akan mampu melakukan tindakan seperti yang dilaporkan apabila sistem sandbox dirancang dan dikonfigurasi secara benar sejak awal.

"Bagi satu orang, 'model itu keluar dari kotak pasir' bisa jadi bagi orang lain, 'Anda gagal membangun kotak pasir dengan benar, jadi tentu saja model itu keluar'," kata Jake Williams.

Insiden tersebut kembali memicu perdebatan mengenai pentingnya standar keamanan dalam pengembangan kecerdasan buatan. Para pakar menilai kemajuan AI harus diimbangi dengan penerapan sistem pengamanan yang lebih ketat agar risiko penyalahgunaan maupun kegagalan teknis dapat diminimalkan.