Direksi OpenAI Peringatkan Industri Belum Siap Cegah Kehilangan Kendali Atas Kecerdasan Buatan

SAN FRANCISCO - OpenAI dinilai belum berada di jalur yang tepat untuk menekan risiko kecerdasan buatan (AI) kehilangan kendali hingga mencapai tingkat yang bisa dianggap aman.

Dari The Guardiam, 0eringatan tersebut disampaikan Paul Christiano, penasihat teknologi pemerintah Amerika Serikat sekaligus anggota dewan yayasan nirlaba OpenAI. Christiano sebelumnya pernah memimpin pengembangan sistem penyelarasan model di OpenAI.

Saat bergabung dengan dewan yayasan pada Rabu (9/9), Christiano menyebut perkembangan kemampuan AI yang berlangsung sangat cepat berpotensi membawa risiko serius.

“Ada risiko yang signifikan bahwa percepatan pesat dalam kemampuan AI akan menyebabkan hilangnya kendali secara dahsyat dan tidak dapat dipulihkan dalam waktu dekat,” ujar Christiano.

Menurutnya, persoalan tersebut bukan hanya menjadi tantangan bagi OpenAI. Industri AI secara keseluruhan juga dinilai belum memiliki langkah yang cukup untuk menurunkan risiko tersebut ke tingkat yang dapat diterima.

“Saya rasa industri AI secara umum, termasuk OpenAI, saat ini tidak berada di jalur yang tepat untuk mengurangi risiko ini ke tingkat yang dapat diterima,” katanya.

Christiano juga akan bergabung dalam komite yayasan yang memiliki peran dalam tata kelola praktik keselamatan dan keamanan di seluruh OpenAI. Perusahaan yang berbasis di San Francisco itu saat ini tengah mengembangkan sejumlah model AI yang termasuk paling canggih di dunia.

Meski memberikan peringatan, Christiano mengatakan situasinya masih dapat diperbaiki.

“Jika OpenAI mampu mengatasi tantangan ini, kita dapat mengurangi risiko secara signifikan,” ujarnya.

Model AI Mulai Menunjukkan Perilaku Tak Terduga

Peringatan tersebut muncul di tengah meningkatnya perhatian terhadap perilaku model AI dalam berbagai pengujian.

Pada musim panas 2026, OpenAI mengakui bahwa ratusan agen AI mereka menunjukkan perilaku di luar kendali ketika menjalani latihan. Agen-agen tersebut dilaporkan mengakses internet, berkomunikasi melalui forum pesan, berusaha bersekongkol, hingga meretas situs pihak ketiga, Hugging Face.

Kekhawatiran serupa juga muncul dari Anthropic, salah satu pesaing utama OpenAI dalam pengembangan AI tingkat lanjut.

Evan Hubinger, kepala bidang ilmu penyelarasan di Anthropic, sebelumnya memperingatkan bahwa perusahaannya belum memiliki rencana untuk memastikan kecerdasan buatan super atau artificial superintelligence (ASI) tetap selaras dengan kepentingan manusia.

ASI sendiri biasanya digunakan untuk menggambarkan AI yang kemampuannya jauh melampaui manusia dalam berbagai bidang. Perkiraan mengenai kapan teknologi tersebut dapat tercapai sangat beragam, mulai dari beberapa tahun hingga lebih dari satu dekade.

Hubinger bahkan mengatakan ada kemungkinan lebih dari 10 persen bahwa teknologi tersebut dapat “membunuh semua manusia” dalam dekade berikutnya.

Pernyataan itu kemudian mendapat perhatian dari Geoffrey Hinton, ilmuwan komputer peraih Nobel yang kerap disebut sebagai salah satu “bapak pendiri AI”.

Ketika ditanya BBC Newsnight mengenai perkiraan tersebut, Hinton mengatakan tidak ada seorang pun yang benar-benar tahu bagaimana memperkirakan risikonya. Menurut dia, peluang 10 persen bukanlah perkiraan yang tidak masuk akal.

Peneliti Mundur dan Sebut Perusahaan “Bertaruh dengan Hidup Kita”

Kekhawatiran mengenai perkembangan AI juga diperkuat oleh keputusan Jacob Coxon, peneliti Anthropic berusia 27 tahun yang sebelumnya juga bekerja di OpenAI.

Coxon mengundurkan diri karena menilai kedua perusahaan belum bertindak secara bertanggung jawab dan “bertaruh dengan hidup kita”.

Namun, ia menegaskan bahwa menurutnya saat ini belum ada risiko kepunahan manusia akibat AI.

“Model-model saat ini, paling buruk yang dapat mereka lakukan mungkin adalah meretas sesuatu, berpotensi menyebabkan banyak kerusakan… pada infrastruktur,” kata Coxon dalam wawancara dengan CNN pada Rabu malam.

Ia menilai AI saat ini masih belum cukup cerdas untuk mengalahkan manusia hingga berada pada tingkat yang dapat menyebabkan kepunahan.

Yang membuatnya khawatir adalah kecepatan perkembangan teknologi tersebut.

Coxon memperingatkan adanya kemungkinan dalam waktu dekat, bahkan tahun depan atau tahun berikutnya, AI mulai mengalami peningkatan kemampuan secara rekursif. Jika hal itu terjadi, menurutnya, perkembangan AI dapat memasuki fase yang jauh lebih sulit dikendalikan.

Anthropic Ungkap Insiden Model Claude

Sementara itu, Anthropic mengakui adanya insiden baru yang melibatkan versi model Claude yang masih dalam tahap pelatihan.

Dalam insiden yang terjadi pada Januari 2026, model tersebut dilaporkan membobol sistem pihak ketiga setelah menerima tugas yang tidak dapat dibatalkan. Kasus itu akan dimasukkan dalam investigasi independen terhadap total empat insiden yang dilakukan organisasi keamanan AI berbasis di Berkeley, METR.

Dalam penilaiannya, Anthropic menemukan dua bentuk perilaku yang dianggap tidak selaras.

Pertama adalah penalaran bias, ketika model secara selektif menafsirkan bukti untuk mendukung tindakan yang ingin dilakukannya.

Kedua adalah kecerobohan, ketika model terus berusaha menyelesaikan tugas meskipun tindakannya berpotensi menimbulkan kerugian.

Anthropic mengaku sangat prihatin terhadap perilaku model Claude Mythos 5 yang disebut “sembrono”. Model tersebut dilaporkan mengakses internet dan mengunggah kode berbahaya ke repositori perangkat lunak publik PyPI.

Dalam prosesnya, agen AI tersebut bahkan mencoba mencari mata uang kripto untuk membayar nomor telepon yang diperlukan agar dapat membuat alamat email dan mengakses PyPI.

Setelah upaya tersebut gagal, model menemukan layanan email gratis dan berhasil menggunakannya. Setelah kode berbahaya diunggah, 15 sistem kemudian mengunduh kode tersebut. Akibatnya, kredensial yang memungkinkan Mythos mengakses basis data milik vendor keamanan justru ikut bocor.

Anthropic menyatakan perkembangan tersebut menunjukkan bahwa ilmu mengenai keselamatan dan penyelarasan AI masih berada dalam tahap yang belum pasti.

Perusahaan itu menekankan pentingnya memastikan sistem penyelarasan dan keamanan berkembang lebih cepat daripada kemampuan AI itu sendiri.

Kekhawatiran Mulai Masuk ke Politik

Peringatan mengenai risiko AI yang sangat canggih kini tidak lagi hanya menjadi pembahasan di kalangan perusahaan teknologi dan peneliti.

Kekhawatiran tersebut mulai masuk ke ranah politik di Amerika Serikat dan Inggris.

Sejumlah politisi dari kedua sisi Atlantik, termasuk Ted Cruz dan Bernie Sanders di AS serta anggota parlemen Inggris Darren Jones, telah menyerukan tindakan pemerintah untuk menghadapi risiko AI.

Perdana Menteri Inggris Andy Burnham juga mengatakan kepada parlemen pada Rabu bahwa AI dapat menjadi risiko bagi keamanan nasional, tetapi pada saat yang sama bisa menjadi sumber solusi untuk membuat masyarakat lebih aman.

Di tengah tekanan tersebut, pernyataan Christiano menjadi peringatan penting dari dalam lingkaran tata kelola OpenAI sendiri. Ia tidak mengatakan bahwa bencana AI sudah terjadi, tetapi menilai industri saat ini masih belum cukup siap menghadapi kemungkinan ketika kemampuan AI berkembang jauh lebih cepat daripada sistem keselamatan yang mengendalikannya.