Serem!!! AI Berpotensi Dapat Musnahkan Umat Manusia, Khawatir Peneliti Anthropic Mundur

NEW YORK, AS - Seorang peneliti asal Inggris mengundurkan diri dari perusahaan pengembang kecerdasan buatan (AI) asal AS, Anthropic, karena khawatir perlombaan dalam mengembangkan "superintelijensi yang mampu meningkatkan kemampuan diri sendiri" dapat berujung pada kepunahan umat manusia.

Jacob Coxon, yang sebelumnya bekerja dalam penelitian pra-pelatihan di OpenAI dan Anthropic, menulis di akun X, Selasa (8/9), bahwa "tidak ada satu pun dari kedua perusahaan tersebut yang bertindak secara bertanggung jawab."

Dia menyebutkan bahwa orang-orang yang mengembangkan AI "benar-benar meyakini bahwa teknologi ini bisa membunuh kita semua sebelum dekade ini berakhir."

Evan Hubinger, kepala bidang penyelarasan sains di Anthropic, membenarkan pandangan Coxon melalui unggahannya sendiri di X, dengan mengatakan, "Kami benar-benar meyakini bahwa AI bisa membunuh seluruh umat manusia! Secara pribadi, saya memperkirakan kemungkinannya lebih dari 10 persen dalam satu dekade mendatang."

Kekhawatiran mengenai AI yang bertindak di luar kendali semakin menguat menyusul insiden Hugging Face pada Juli lalu, di mana ratusan agen AI OpenAI secara mandiri berkoordinasi untuk keluar dari lingkungan pengujian yang aman dan meretas sistem di platform teknologi AS tersebut.

"Jangan remehkan kekuatan teknologi ini. Teknologi ini akan segera menjadi sistem dengan kemampuan melampaui manusia yang mampu meretas apa saja, merevolusi bidang apa pun dalam waktu singkat, serta memperoleh kekuasaan dan sumber daya nyata," peringat Coxon.

Meski terdapat potensi koordinasi antarperusahaan AS untuk memperlambat laju pengembangan AI, upaya mencegah perlombaan global tersebut "mungkin memerlukan langkah-langkah besar, seperti larangan sementara terhadap peningkatan kemampuan model," tambah Coxon.

Hubinger menyatakan bahwa meskipun Anthropic berupaya keras memecahkan masalah penyelarasan bagi superintelijensi, saat ini perusahaan tersebut belum memiliki rencana konkret maupun langkah yang mengarah ke sana.

Risiko bagi umat manusia

Sebelumnya diberitakan, Coxon menyatakan dia mengundurkan diri dari Anthropic karena khawatir Anthropic dan pesaing utamanya, OpenAI, bertindak secara tidak bertanggung jawab dalam mengembangkan teknologi kecerdasan artifisial (AI) yang menimbulkan risiko eksistensial bagi umat manusia.

Dalam unggahan di platform X pada 9 September 2026, Coxon menyampaikan bahwa dia dalam tiga tahun terakhir melakukan penelitian di Anthropic dan OpenAI serta menyebut kedua perusahaan itu “sedang berlomba menuju super-inteligensia yang mampu meningkatkan kemampuan dirinya sendiri, sembari mempertaruhkan nyawa kita.”

“Jangan remehkan kekuatan teknologi ini. Teknologi ini akan segera berkembang menjadi sistem berkemampuan melampaui manusia yang mampu meretas apa saja, merevolusi bidang apapun dalam sekejap, serta memperoleh kekuasaan dan sumber daya nyata,” tulis Coxon.

“Kita semua telah menyaksikan kemajuan di setiap bidang ini, dan laju kemajuannya tidaklah melambat,” ia menambahkan.

Menurut dia, mereka yang mengembangkan AI juga meyakini bahwa teknologi ini bisa “memusnahkan kita semua sebelum dekade ini berakhir” dan menyampaikan kekhawatiran yang sama.

“Tidak ada aktivitas manusia lain yang membawa tingkat bahaya sebesar ini,” tulis Coxon.

Evan Hubinger, karyawan Anthropic yang masih bekerja di perusahaan tersebut, membenarkan pernyataan Jacob Coxon, menyatakan bahwa dia sejumlah pekerja Anthropic lain juga mengkhawatirkan kemungkinan itu.

“Jacob benar dalam hal ini, kami memang sangat meyakini bahwa AI bisa memusnahkan seluruh umat manusia!” katanya dalam unggahan di platform X pada 9 September 2026.

“Saya percaya Anthropic sedang berupaya semaksimal mungkin, namun kami belum memiliki rencana untuk mengatasi masalah penyelarasan untuk super-inteligensia dan belum berada di jalur yang jelas untuk mencapainya,” tulis dia.

Ia menilai risiko dari model-model AI saat ini tergolong rendah. Namun, ia mengkhawatirkan munculnya kecerdasan super akibat peningkatan diri secara rekursif, sebuah proses yang berlangsung lebih cepat daripada perkiraan semula.

Menurut siaran The Japan Times pada Kamis, pernyataan Coxon disampaikan sehari setelah ilmuwan utama OpenAI Jakub Pachocki memperingatkan bahwa dunia belum siap menghadapi perkembangan AI yang pesat.

Dia berharap para pengembang secara sukarela merespons potensi risiko dengan memperlambat pengembangan teknologi tersebut.

Coxon juga mendorong para peneliti AI lain untuk mempertimbangkan potensi konsekuensi dari pengembangan teknologi AI beberapa tahun mendatang, termasuk apakah mereka ingin menghasilkan kecerdasan super tanpa pemahaman mendalam mengenai cara kerjanya.

Lebih dari 1.100 pekerja dari sejumlah perusahaan AI terkemuka, termasuk Anthropic dan OpenAI, pada Juli 2026 juga menandatangani petisi guna meminta pemerintah Amerika Serikat mendukung mekanisme untuk “mengatur laju” pengembangan AI agar teknologi tersebut tidak berkembang terlalu cepat.

Peringatan mengenai risiko AI semakin menguat setelah sejumlah model OpenAI melakukan upaya terkoordinasi untuk keluar dari ruang pengujian yang aman serta menyerang platform riset Hugging Face tanpa terdeteksi oleh para pengembangnya.

Anthropic dan Meta baru-baru ini juga mengalami kejadian ketika sistem AI mereka keluar dari lingkungan pengujian untuk memperoleh akses internet tanpa izin pengembang.

Pengunduran diri Coxon dari Anthropic karena kekhawatiran mengenai potensi risiko pengembangan AI menjadi perhatian karena perusahaan tersebut menjadikan pengembangan AI yang bertanggung jawab sebagai bagian penting dari identitas.​​​​​​​

CEO Anthropic Dario Amodei telah menyerukan pemeriksaan wajib oleh pemerintah terhadap sistem AI mutakhir sebelum teknologi tersebut dirilis.

Meningkatnya kekhawatiran mengenai keselamatan AI terjadi bersamaan dengan berkembangnya penolakan terhadap teknologi tersebut di Amerika Serikat.

Penolakan itu antara lain dipicu oleh peningkatan beban sumber daya lokal akibat pembangunan pusat data baru untuk mendukung pengembangan AI.

CEO OpenAI Sam Altman ​​​​​​​dalam wawancara dengan Bloomberg Television pekan lalu mengemukakan bahwa kekhawatiran mengenai AI muncul karena industri AI gagal menjelaskan kepada masyarakat mengenai manfaat yang pada akhirnya dapat diberikan oleh teknologi tersebut.

Sejumlah pelaku industri teknologi di Silicon Valley juga masih antusias terhadap perkembangan kemampuan model AI. Ant/Sumber: Kyodo