Serem!!! AI Berpotensi Dapat Musnahkan Umat Manusia, Khawatir Peneliti Anthropic Mundur

“Tidak ada aktivitas manusia lain yang membawa tingkat bahaya sebesar ini,” tulis Coxon.

Evan Hubinger, karyawan Anthropic yang masih bekerja di perusahaan tersebut, membenarkan pernyataan Jacob Coxon, menyatakan bahwa dia sejumlah pekerja Anthropic lain juga mengkhawatirkan kemungkinan itu.

“Jacob benar dalam hal ini, kami memang sangat meyakini bahwa AI bisa memusnahkan seluruh umat manusia!” katanya dalam unggahan di platform X pada 9 September 2026.

“Saya percaya Anthropic sedang berupaya semaksimal mungkin, namun kami belum memiliki rencana untuk mengatasi masalah penyelarasan untuk super-inteligensia dan belum berada di jalur yang jelas untuk mencapainya,” tulis dia.

Ia menilai risiko dari model-model AI saat ini tergolong rendah. Namun, ia mengkhawatirkan munculnya kecerdasan super akibat peningkatan diri secara rekursif, sebuah proses yang berlangsung lebih cepat daripada perkiraan semula.

Menurut siaran The Japan Times pada Kamis, pernyataan Coxon disampaikan sehari setelah ilmuwan utama OpenAI Jakub Pachocki memperingatkan bahwa dunia belum siap menghadapi perkembangan AI yang pesat.

Dia berharap para pengembang secara sukarela merespons potensi risiko dengan memperlambat pengembangan teknologi tersebut.

Coxon juga mendorong para peneliti AI lain untuk mempertimbangkan potensi konsekuensi dari pengembangan teknologi AI beberapa tahun mendatang, termasuk apakah mereka ingin menghasilkan kecerdasan super tanpa pemahaman mendalam mengenai cara kerjanya.

Lebih dari 1.100 pekerja dari sejumlah perusahaan AI terkemuka, termasuk Anthropic dan OpenAI, pada Juli 2026 juga menandatangani petisi guna meminta pemerintah Amerika Serikat mendukung mekanisme untuk “mengatur laju” pengembangan AI agar teknologi tersebut tidak berkembang terlalu cepat.

Peringatan mengenai risiko AI semakin menguat setelah sejumlah model OpenAI melakukan upaya terkoordinasi untuk keluar dari ruang pengujian yang aman serta menyerang platform riset Hugging Face tanpa terdeteksi oleh para pengembangnya.

Anthropic dan Meta baru-baru ini juga mengalami kejadian ketika sistem AI mereka keluar dari lingkungan pengujian untuk memperoleh akses internet tanpa izin pengembang.

Pengunduran diri Coxon dari Anthropic karena kekhawatiran mengenai potensi risiko pengembangan AI menjadi perhatian karena perusahaan tersebut menjadikan pengembangan AI yang bertanggung jawab sebagai bagian penting dari identitas.​​​​​​​

CEO Anthropic Dario Amodei telah menyerukan pemeriksaan wajib oleh pemerintah terhadap sistem AI mutakhir sebelum teknologi tersebut dirilis.