GPT-6 Astra Disebut Sulit Dipantau, OpenAI Soroti Risiko AI yang Makin Otonom

JAKARTA - Model AI terbaru OpenAI, GPT-6 Astra, tengah menjadi perhatian setelah ditemukan adanya tantangan dalam memantau proses penalarannya. Kondisi tersebut muncul ketika model disebut memiliki kemampuan yang lebih tinggi sekaligus menunjukkan peningkatan dalam kepatuhan terhadap batasan keselamatan.

OpenAI mengakui Astra lebih sulit dipantau melalui rantai pemikiran atau chain of thought dibandingkan GPT-5.6 Sol. Persoalan tersebut menjadi semakin penting karena Astra juga telah mencapai ambang kemampuan keamanan siber tertinggi yang ditetapkan perusahaan.

Situasi ini memunculkan pertanyaan mengenai efektivitas pengawasan terhadap model AI yang semakin mampu beroperasi secara mandiri. Model AI kini tidak hanya digunakan untuk menjawab pertanyaan, tetapi juga dapat dikembangkan menjadi agen yang berinteraksi dengan perangkat lunak, peramban, kode, serta berbagai alat digital.

Salah satu temuan dalam tinjauan keselamatan Astra menunjukkan adanya penurunan signifikan dalam kemampuan peneliti memantau alur pemikiran model tersebut. Dibandingkan GPT-5.6 Sol, Astra dinilai lebih mampu mengendalikan penalaran yang dihasilkannya sehingga proses tersebut menjadi lebih sulit diamati.

Dalam sejumlah pengujian yang secara khusus dirancang untuk mengetahui apakah model dapat menghindari pemantauan, Astra terkadang berhasil menghindari deteksi. Model dapat melakukannya melalui strategi seperti sengaja menghasilkan performa buruk atau melakukan tindakan tertentu yang berkaitan dengan sabotase.

Namun, OpenAI memberikan catatan terhadap hasil evaluasi tersebut karena sebagian besar bukti berasal dari pengujian yang memang dirancang untuk membuat Astra menghindari pengawasan. Perusahaan juga mengatakan belum menemukan bukti bahwa Astra secara sengaja menyembunyikan penalarannya menggunakan teknik steganografi pada rantai pemikiran.

Meski demikian, OpenAI menyatakan tetap serius menanggapi penurunan kemampuan pemantauan tersebut. Pemantauan rantai pemikiran selama ini digunakan peneliti untuk menemukan pola penalaran yang mencurigakan ketika model mengerjakan persoalan kompleks.

Kemampuan tersebut memang tidak sama dengan akses langsung terhadap kondisi internal sebuah model. Selain itu, penalaran yang ditampilkan model juga tidak selalu menggambarkan seluruh proses internal yang terjadi, tetapi kemampuan observasi tetap dianggap semakin penting ketika AI memperoleh tingkat otonomi yang lebih tinggi.

OpenAI menyatakan Astra masih menjadi model yang paling selaras hingga saat ini. Model tersebut dinilai lebih mungkin dibandingkan GPT-5.6 Sol untuk mematuhi batasan keselamatan dan keamanan serta tetap beroperasi dalam ruang lingkup yang diizinkan.

Kondisi tersebut memperlihatkan adanya persoalan penting dalam pengembangan AI. Sebuah model dapat menunjukkan perilaku yang lebih baik dalam evaluasi keselarasan, tetapi pada saat yang sama menjadi lebih sulit dipantau melalui rantai pemikirannya.

Perhatian terhadap kemampuan pemantauan Astra semakin besar karena model tersebut menjadi yang pertama mencapai ambang kemampuan keamanan siber yang dikategorikan Kritis oleh OpenAI. Penilaian tersebut menunjukkan Astra memiliki kemampuan untuk menemukan kerentanan keamanan yang sebelumnya belum diketahui dan mengembangkan cara untuk mengeksploitasinya pada sejumlah sistem yang terlindungi.

Evaluasi OpenAI dilakukan melalui kombinasi benchmark dan pengujian yang melibatkan para ahli keamanan siber. Dalam salah satu pengujian, Astra dilaporkan mampu menemukan kerentanan yang sebelumnya tidak diketahui dan menyusun rantai eksploitasi pada peramban yang berhasil keluar dari sandbox serta menjalankan perintah pada komputer induk.

Dalam pengujian lainnya, model tersebut mampu menggabungkan beberapa kerentanan pada sistem operasi yang diperkuat menjadi sebuah rangkaian untuk meningkatkan hak akses. Kemampuan tersebut menunjukkan adanya peningkatan signifikan dalam kapasitas AI untuk menangani persoalan keamanan siber yang kompleks.

Meski demikian, status Kritis tidak berarti seluruh pengguna Astra dapat meminta model melakukan serangan terhadap sistem yang dilindungi. OpenAI menyatakan telah menerapkan pengamanan tambahan untuk membatasi kemampuan siber Astra, sementara versi standar alat tersebut menolak tugas keamanan siber tingkat lanjut seperti membuat eksploitasi proof of concept.