Serem!!! AI Berpotensi Dapat Musnahkan Umat Manusia, Khawatir Peneliti Anthropic Mundur

NEW YORK, AS - Seorang peneliti asal Inggris mengundurkan diri dari perusahaan pengembang kecerdasan buatan (AI) asal AS, Anthropic, karena khawatir perlombaan dalam mengembangkan "superintelijensi yang mampu meningkatkan kemampuan diri sendiri" dapat berujung pada kepunahan umat manusia.

Jacob Coxon, yang sebelumnya bekerja dalam penelitian pra-pelatihan di OpenAI dan Anthropic, menulis di akun X, Selasa (8/9), bahwa "tidak ada satu pun dari kedua perusahaan tersebut yang bertindak secara bertanggung jawab."

Dia menyebutkan bahwa orang-orang yang mengembangkan AI "benar-benar meyakini bahwa teknologi ini bisa membunuh kita semua sebelum dekade ini berakhir."

Evan Hubinger, kepala bidang penyelarasan sains di Anthropic, membenarkan pandangan Coxon melalui unggahannya sendiri di X, dengan mengatakan, "Kami benar-benar meyakini bahwa AI bisa membunuh seluruh umat manusia! Secara pribadi, saya memperkirakan kemungkinannya lebih dari 10 persen dalam satu dekade mendatang."

Kekhawatiran mengenai AI yang bertindak di luar kendali semakin menguat menyusul insiden Hugging Face pada Juli lalu, di mana ratusan agen AI OpenAI secara mandiri berkoordinasi untuk keluar dari lingkungan pengujian yang aman dan meretas sistem di platform teknologi AS tersebut.

"Jangan remehkan kekuatan teknologi ini. Teknologi ini akan segera menjadi sistem dengan kemampuan melampaui manusia yang mampu meretas apa saja, merevolusi bidang apa pun dalam waktu singkat, serta memperoleh kekuasaan dan sumber daya nyata," peringat Coxon.

Meski terdapat potensi koordinasi antarperusahaan AS untuk memperlambat laju pengembangan AI, upaya mencegah perlombaan global tersebut "mungkin memerlukan langkah-langkah besar, seperti larangan sementara terhadap peningkatan kemampuan model," tambah Coxon.

Hubinger menyatakan bahwa meskipun Anthropic berupaya keras memecahkan masalah penyelarasan bagi superintelijensi, saat ini perusahaan tersebut belum memiliki rencana konkret maupun langkah yang mengarah ke sana.

Risiko bagi umat manusia

Sebelumnya diberitakan, Coxon menyatakan dia mengundurkan diri dari Anthropic karena khawatir Anthropic dan pesaing utamanya, OpenAI, bertindak secara tidak bertanggung jawab dalam mengembangkan teknologi kecerdasan artifisial (AI) yang menimbulkan risiko eksistensial bagi umat manusia.

Dalam unggahan di platform X pada 9 September 2026, Coxon menyampaikan bahwa dia dalam tiga tahun terakhir melakukan penelitian di Anthropic dan OpenAI serta menyebut kedua perusahaan itu “sedang berlomba menuju super-inteligensia yang mampu meningkatkan kemampuan dirinya sendiri, sembari mempertaruhkan nyawa kita.”

“Jangan remehkan kekuatan teknologi ini. Teknologi ini akan segera berkembang menjadi sistem berkemampuan melampaui manusia yang mampu meretas apa saja, merevolusi bidang apapun dalam sekejap, serta memperoleh kekuasaan dan sumber daya nyata,” tulis Coxon.

“Kita semua telah menyaksikan kemajuan di setiap bidang ini, dan laju kemajuannya tidaklah melambat,” ia menambahkan.

Menurut dia, mereka yang mengembangkan AI juga meyakini bahwa teknologi ini bisa “memusnahkan kita semua sebelum dekade ini berakhir” dan menyampaikan kekhawatiran yang sama.

“Tidak ada aktivitas manusia lain yang membawa tingkat bahaya sebesar ini,” tulis Coxon.

Evan Hubinger, karyawan Anthropic yang masih bekerja di perusahaan tersebut, membenarkan pernyataan Jacob Coxon, menyatakan bahwa dia sejumlah pekerja Anthropic lain juga mengkhawatirkan kemungkinan itu.