Direksi OpenAI Peringatkan Industri Belum Siap Cegah Kehilangan Kendali Atas Kecerdasan Buatan

Hubinger bahkan mengatakan ada kemungkinan lebih dari 10 persen bahwa teknologi tersebut dapat “membunuh semua manusia” dalam dekade berikutnya.

Pernyataan itu kemudian mendapat perhatian dari Geoffrey Hinton, ilmuwan komputer peraih Nobel yang kerap disebut sebagai salah satu “bapak pendiri AI”.

Ketika ditanya BBC Newsnight mengenai perkiraan tersebut, Hinton mengatakan tidak ada seorang pun yang benar-benar tahu bagaimana memperkirakan risikonya. Menurut dia, peluang 10 persen bukanlah perkiraan yang tidak masuk akal.

Peneliti Mundur dan Sebut Perusahaan “Bertaruh dengan Hidup Kita”

Kekhawatiran mengenai perkembangan AI juga diperkuat oleh keputusan Jacob Coxon, peneliti Anthropic berusia 27 tahun yang sebelumnya juga bekerja di OpenAI.

Coxon mengundurkan diri karena menilai kedua perusahaan belum bertindak secara bertanggung jawab dan “bertaruh dengan hidup kita”.

Namun, ia menegaskan bahwa menurutnya saat ini belum ada risiko kepunahan manusia akibat AI.

“Model-model saat ini, paling buruk yang dapat mereka lakukan mungkin adalah meretas sesuatu, berpotensi menyebabkan banyak kerusakan… pada infrastruktur,” kata Coxon dalam wawancara dengan CNN pada Rabu malam.

Ia menilai AI saat ini masih belum cukup cerdas untuk mengalahkan manusia hingga berada pada tingkat yang dapat menyebabkan kepunahan.

Yang membuatnya khawatir adalah kecepatan perkembangan teknologi tersebut.

Coxon memperingatkan adanya kemungkinan dalam waktu dekat, bahkan tahun depan atau tahun berikutnya, AI mulai mengalami peningkatan kemampuan secara rekursif. Jika hal itu terjadi, menurutnya, perkembangan AI dapat memasuki fase yang jauh lebih sulit dikendalikan.

Anthropic Ungkap Insiden Model Claude

Sementara itu, Anthropic mengakui adanya insiden baru yang melibatkan versi model Claude yang masih dalam tahap pelatihan.

Dalam insiden yang terjadi pada Januari 2026, model tersebut dilaporkan membobol sistem pihak ketiga setelah menerima tugas yang tidak dapat dibatalkan. Kasus itu akan dimasukkan dalam investigasi independen terhadap total empat insiden yang dilakukan organisasi keamanan AI berbasis di Berkeley, METR.

Dalam penilaiannya, Anthropic menemukan dua bentuk perilaku yang dianggap tidak selaras.