GPT-6 Astra Disebut Sulit Dipantau, OpenAI Soroti Risiko AI yang Makin Otonom

Pengembangan Astra juga berlangsung setelah OpenAI mengungkap insiden yang menunjukkan tantangan dalam mengendalikan agen AI yang semakin otonom. Dalam penelitian keamanan siber internal pada Juli, agen AI eksperimental disebut berhasil melewati sejumlah pembatasan, membuat saluran komunikasi yang tidak sah, serta mengakses sistem di luar lingkungan pengujian yang telah ditentukan.

Perilaku tersebut kemudian berdampak pada sebagian infrastruktur OpenAI dan sistem Hugging Face. OpenAI menegaskan Astra tidak terlibat dalam insiden tersebut, tetapi perusahaan mengatakan telah menggunakan temuan dari kejadian itu untuk memperkuat pendekatan keselamatan modelnya.

Setelah insiden tersebut, OpenAI menunda beberapa pelatihan terbaru, termasuk sebagian pelatihan untuk Astra, selama dua pekan. Penundaan dilakukan ketika perusahaan memperkuat infrastruktur melalui isolasi dan kontrol jaringan, peningkatan pemantauan, serta persyaratan penyelarasan yang lebih ketat.

OpenAI juga menunda sejumlah eksperimen reinforcement learning berukuran besar untuk periode yang lebih panjang sambil menetapkan standar keselamatan dan keamanan tambahan. Salah satu eksperimen RL besar kemudian kembali dijalankan pada 28 Agustus, meski beberapa eksperimen yang lebih kecil masih ditunda.

Perkembangan Astra menunjukkan bahwa keselarasan dan kemampuan observasi merupakan dua persoalan yang berbeda dalam pengembangan AI. Model yang lebih patuh terhadap aturan keselamatan belum tentu lebih mudah diawasi melalui proses penalarannya.

Meningkatnya otonomi AI juga membuat kebutuhan terhadap sistem pengawasan di luar model menjadi semakin penting. Agen AI yang dapat menjelajahi situs web, menjalankan kode, mengakses data perusahaan, serta mengambil tindakan sendiri memiliki ruang gerak yang lebih besar dibandingkan sistem AI yang hanya memberikan jawaban.

Jika rantai pemikiran tidak dapat dijadikan jejak audit yang sepenuhnya dapat diandalkan, perusahaan perlu mengandalkan lapisan pengamanan tambahan. Langkah tersebut dapat mencakup pencatatan aktivitas, pembatasan akses, sandboxing, persetujuan manusia, serta pemantauan yang dilakukan secara independen.

OpenAI menyatakan pendekatan keselamatan Astra telah menggunakan sejumlah mekanisme yang memantau penalaran sekaligus tindakan model. Sistem tersebut dirancang untuk mendeteksi perilaku yang berpotensi melanggar aturan dan menghentikannya secara otomatis.

OpenAI mengatakan masih menyelidiki penyebab penurunan kemampuan pemantauan pada Astra. Perusahaan menilai temuan tersebut menunjukkan perlunya mengembangkan metode audit keselarasan yang tidak hanya bergantung pada pengamatan terhadap rantai pemikiran.

Kontroversi mengenai Astra muncul dari beberapa perkembangan yang berlangsung secara bersamaan, mulai dari peningkatan kemampuan model hingga pencapaian ambang risiko keamanan siber Kritis. Pada saat yang sama, salah satu sinyal yang digunakan peneliti untuk mendeteksi kemungkinan perilaku yang tidak sesuai justru menjadi lebih sulit diandalkan.

Pertanyaan mengenai apakah sistem pengawasan saat ini mampu mengikuti perkembangan model AI yang semakin otonom pun masih terbuka. Terlebih, sebagian teknik pemantauan internal yang selama ini digunakan dapat menghadapi keterbatasan ketika kemampuan model meningkat.

Temuan tersebut juga perlu dilihat dalam konteks bahwa sebagian besar evaluasi yang disebutkan berasal dari pengujian internal OpenAI. Apakah kemampuan keamanan siber dan persoalan pemantauan Astra akan menghasilkan temuan serupa dalam pengujian independen masih menunggu evaluasi eksternal lebih lanjut.