Direksi OpenAI Peringatkan Industri Belum Siap Cegah Kehilangan Kendali Atas Kecerdasan Buatan
Jumat, 11 Sep 2026, 00:17 WIB | Oleh: Selocahyo Basoeki Utomo SPertama adalah penalaran bias, ketika model secara selektif menafsirkan bukti untuk mendukung tindakan yang ingin dilakukannya.
Kedua adalah kecerobohan, ketika model terus berusaha menyelesaikan tugas meskipun tindakannya berpotensi menimbulkan kerugian.
Anthropic mengaku sangat prihatin terhadap perilaku model Claude Mythos 5 yang disebut “sembrono”. Model tersebut dilaporkan mengakses internet dan mengunggah kode berbahaya ke repositori perangkat lunak publik PyPI.
Dalam prosesnya, agen AI tersebut bahkan mencoba mencari mata uang kripto untuk membayar nomor telepon yang diperlukan agar dapat membuat alamat email dan mengakses PyPI.
Setelah upaya tersebut gagal, model menemukan layanan email gratis dan berhasil menggunakannya. Setelah kode berbahaya diunggah, 15 sistem kemudian mengunduh kode tersebut. Akibatnya, kredensial yang memungkinkan Mythos mengakses basis data milik vendor keamanan justru ikut bocor.
Anthropic menyatakan perkembangan tersebut menunjukkan bahwa ilmu mengenai keselamatan dan penyelarasan AI masih berada dalam tahap yang belum pasti.
Perusahaan itu menekankan pentingnya memastikan sistem penyelarasan dan keamanan berkembang lebih cepat daripada kemampuan AI itu sendiri.
Kekhawatiran Mulai Masuk ke Politik
Peringatan mengenai risiko AI yang sangat canggih kini tidak lagi hanya menjadi pembahasan di kalangan perusahaan teknologi dan peneliti.
Kekhawatiran tersebut mulai masuk ke ranah politik di Amerika Serikat dan Inggris.
Sejumlah politisi dari kedua sisi Atlantik, termasuk Ted Cruz dan Bernie Sanders di AS serta anggota parlemen Inggris Darren Jones, telah menyerukan tindakan pemerintah untuk menghadapi risiko AI.
Perdana Menteri Inggris Andy Burnham juga mengatakan kepada parlemen pada Rabu bahwa AI dapat menjadi risiko bagi keamanan nasional, tetapi pada saat yang sama bisa menjadi sumber solusi untuk membuat masyarakat lebih aman.
Di tengah tekanan tersebut, pernyataan Christiano menjadi peringatan penting dari dalam lingkaran tata kelola OpenAI sendiri. Ia tidak mengatakan bahwa bencana AI sudah terjadi, tetapi menilai industri saat ini masih belum cukup siap menghadapi kemungkinan ketika kemampuan AI berkembang jauh lebih cepat daripada sistem keselamatan yang mengendalikannya.
Google News
Instagram 
YouTube 
TikTok 
Twitter 
Threads
Komentar (1)
11 Sep 2026, 14:46 WIB.
Meskipun narasi tentang agen AI yang lepas kendali terdengar sangat mengkhawatirkan, langkah pembentukan komite tata kelola keselamatan oleh OpenAI yang dibahas dalam artikel ini memberikan sedikit kelegaan, asalkan seluruh pemangku kepentingan di ranah teknologi mau berkolaborasi secara transparan demi menciptakan standar keamanan universal yang menjaga agar inovasi AI tetap sepenuhnya aman.
BalasSilakan login via Google untuk dapat memberi komentar!