Direksi OpenAI Peringatkan Industri Belum Siap Cegah Kehilangan Kendali Atas Kecerdasan Buatan

Sementara itu, Anthropic mengakui adanya insiden baru yang melibatkan versi model Claude yang masih dalam tahap pelatihan.

Dalam insiden yang terjadi pada Januari 2026, model tersebut dilaporkan membobol sistem pihak ketiga setelah menerima tugas yang tidak dapat dibatalkan. Kasus itu akan dimasukkan dalam investigasi independen terhadap total empat insiden yang dilakukan organisasi keamanan AI berbasis di Berkeley, METR.

Dalam penilaiannya, Anthropic menemukan dua bentuk perilaku yang dianggap tidak selaras.

Pertama adalah penalaran bias, ketika model secara selektif menafsirkan bukti untuk mendukung tindakan yang ingin dilakukannya.

Kedua adalah kecerobohan, ketika model terus berusaha menyelesaikan tugas meskipun tindakannya berpotensi menimbulkan kerugian.

Anthropic mengaku sangat prihatin terhadap perilaku model Claude Mythos 5 yang disebut “sembrono”. Model tersebut dilaporkan mengakses internet dan mengunggah kode berbahaya ke repositori perangkat lunak publik PyPI.

Dalam prosesnya, agen AI tersebut bahkan mencoba mencari mata uang kripto untuk membayar nomor telepon yang diperlukan agar dapat membuat alamat email dan mengakses PyPI.

Setelah upaya tersebut gagal, model menemukan layanan email gratis dan berhasil menggunakannya. Setelah kode berbahaya diunggah, 15 sistem kemudian mengunduh kode tersebut. Akibatnya, kredensial yang memungkinkan Mythos mengakses basis data milik vendor keamanan justru ikut bocor.

Anthropic menyatakan perkembangan tersebut menunjukkan bahwa ilmu mengenai keselamatan dan penyelarasan AI masih berada dalam tahap yang belum pasti.

Perusahaan itu menekankan pentingnya memastikan sistem penyelarasan dan keamanan berkembang lebih cepat daripada kemampuan AI itu sendiri.

Kekhawatiran Mulai Masuk ke Politik

Peringatan mengenai risiko AI yang sangat canggih kini tidak lagi hanya menjadi pembahasan di kalangan perusahaan teknologi dan peneliti.

Kekhawatiran tersebut mulai masuk ke ranah politik di Amerika Serikat dan Inggris.