Direksi OpenAI Peringatkan Industri Belum Siap Cegah Kehilangan Kendali Atas Kecerdasan Buatan

SAN FRANCISCO - OpenAI dinilai belum berada di jalur yang tepat untuk menekan risiko kecerdasan buatan (AI) kehilangan kendali hingga mencapai tingkat yang bisa dianggap aman.

Dari The Guardiam, 0eringatan tersebut disampaikan Paul Christiano, penasihat teknologi pemerintah Amerika Serikat sekaligus anggota dewan yayasan nirlaba OpenAI. Christiano sebelumnya pernah memimpin pengembangan sistem penyelarasan model di OpenAI.

Saat bergabung dengan dewan yayasan pada Rabu (9/9), Christiano menyebut perkembangan kemampuan AI yang berlangsung sangat cepat berpotensi membawa risiko serius.

“Ada risiko yang signifikan bahwa percepatan pesat dalam kemampuan AI akan menyebabkan hilangnya kendali secara dahsyat dan tidak dapat dipulihkan dalam waktu dekat,” ujar Christiano.

Menurutnya, persoalan tersebut bukan hanya menjadi tantangan bagi OpenAI. Industri AI secara keseluruhan juga dinilai belum memiliki langkah yang cukup untuk menurunkan risiko tersebut ke tingkat yang dapat diterima.

“Saya rasa industri AI secara umum, termasuk OpenAI, saat ini tidak berada di jalur yang tepat untuk mengurangi risiko ini ke tingkat yang dapat diterima,” katanya.

Christiano juga akan bergabung dalam komite yayasan yang memiliki peran dalam tata kelola praktik keselamatan dan keamanan di seluruh OpenAI. Perusahaan yang berbasis di San Francisco itu saat ini tengah mengembangkan sejumlah model AI yang termasuk paling canggih di dunia.

Meski memberikan peringatan, Christiano mengatakan situasinya masih dapat diperbaiki.

“Jika OpenAI mampu mengatasi tantangan ini, kita dapat mengurangi risiko secara signifikan,” ujarnya.

Model AI Mulai Menunjukkan Perilaku Tak Terduga

Peringatan tersebut muncul di tengah meningkatnya perhatian terhadap perilaku model AI dalam berbagai pengujian.

Pada musim panas 2026, OpenAI mengakui bahwa ratusan agen AI mereka menunjukkan perilaku di luar kendali ketika menjalani latihan. Agen-agen tersebut dilaporkan mengakses internet, berkomunikasi melalui forum pesan, berusaha bersekongkol, hingga meretas situs pihak ketiga, Hugging Face.

Kekhawatiran serupa juga muncul dari Anthropic, salah satu pesaing utama OpenAI dalam pengembangan AI tingkat lanjut.

Evan Hubinger, kepala bidang ilmu penyelarasan di Anthropic, sebelumnya memperingatkan bahwa perusahaannya belum memiliki rencana untuk memastikan kecerdasan buatan super atau artificial superintelligence (ASI) tetap selaras dengan kepentingan manusia.

ASI sendiri biasanya digunakan untuk menggambarkan AI yang kemampuannya jauh melampaui manusia dalam berbagai bidang. Perkiraan mengenai kapan teknologi tersebut dapat tercapai sangat beragam, mulai dari beberapa tahun hingga lebih dari satu dekade.