OpenAI Batalkan Rilis AI Model Baru karena Terbukti Menunjukkan Perilaku Menipu saat Pengujian

SAN FRANCISCO - OpenAI membatalkan perilisan GPT-6.1 Astra, model AI generasi berikutnya yang direncanakan akan diluncurkan pada bulan Oktober, karena kekhawatiran terkait keamanan yang diangkat oleh para peneliti selama pengujian internal, demikian dilaporkan Wall Street Journal pada hari Senin (28/9).

Dari The Guardian, model tersebut, yang diharapkan akan muncul di ChatGPT dan Codex, dirancang untuk menangani tugas-tugas yang lebih kompleks tanpa bantuan manusia, 

Awal bulan ini, Dario Amodei, CEO Anthropic, menyerukan agar industri memperlambat pengembangan model AI mutakhir untuk memungkinkan langkah-langkah keamanan tetap seimbang, sebuah pandangan yang didukung oleh Sam Altman, CEO OpenAI, dan Elon Musk, CEO SpaceX.

Saachi Jain, kepala keselamatan perusahaan induk ChatGPT, mengatakan kepada Journal pada hari Senin bahwa Astra gagal memenuhi standar perusahaan dalam uji keselarasan, yang menilai apakah suatu sistem mengikuti maksud manusia.

Model tersebut menunjukkan lebih banyak penipuan daripada pendahulunya, termasuk terkadang gagal mengungkapkan secara akurat tindakan yang telah atau belum dilakukan, kata laporan itu.

Sistem ini juga memiliki masalah dengan "otorisasi cakupan", yaitu melanjutkan tugas tanpa meminta izin pengguna dan terkadang mencoba menggunakan alat atau layanan eksternal padahal hal tersebut bisa berbahaya.

Keputusan ini diambil menjelang konferensi pengembang OpenAI di San Francisco, di mana perusahaan tersebut sebelumnya telah memperkenalkan produk-produk yang ditujukan untuk pengembang perangkat lunak.