Mengerikan, Superintelijen AI Berpotensi Menguasai Umat Manusia

\SAN FRANCISCO - Seorang peneliti di perusahaan Rin Tosan Artificial Intelligence (AI), Anthropic, Jacob Coxon, yang bertugas melatih model AI baru, telah mengundurkan diri dari jabatannya sambil mengeluarkan peringatan mengerikan yang kini menjadi viral.

Seperti dilansir oleh Deadline, Coxon pada Selasa (8/9) memposting tujuh bagian pesan di X,yang mendapat hampir 76 juta tayangan dalam semalam, sebuah respons yang sebagian dipicu oleh wawancara eksklusif Wall Street Journal dengan mantan karyawan Anthropic tersebut.

Coxon yang berusia 27 tahun memulai curahan hatinya di X dengan pengumuman pengunduran dirinya: “Saya mengundurkan diri dari Anthropic hari ini. Saya menghabiskan tiga tahun terakhir melakukan penelitian pra-pelatihan di OpenAI dan Anthropic. Kedua perusahaan tersebut tidak bertindak secara bertanggung jawab. Mereka berlomba-lomba menuju superintelijen yang terus meningkatkan diri dan mempertaruhkan hidup kita.” Kata Coxon.

“Jangan remehkan kekuatan teknologi ini,” lanjutnya. “Ini akan segera menjadi sistem super manusia yang dapat meretas apa pun, merevolusi bidang apa pun dalam semalam, dan memperoleh kekuatan serta sumber daya yang nyata. Kita semua telah menyaksikan kemajuan di setiap domain ini, dan kemajuan tersebut tidak melambat,” katanya.

Unggahan ketiga Coxon dalam rangkaian tersebut mungkin yang paling mengerikan. “Orang-orang yang membangun AI sungguh percaya bahwa AI dapat membunuh kita semua pada akhir dekade ini,” tulisnya. “Ini bukan aksi pemasaran. Malahan, banyak eksekutif dan peneliti senior akan menyusun kalimat mereka di media agar terdengar masuk akal, tetapi saya mendengar orang-orang yang sama mengungkapkan ketakutan secara pribadi. Tidak ada aktivitas manusia lain yang menimbulkan tingkat bahaya seperti ini.”

Dalam wawancara dengan Wall Street Journal , Coxon menjelaskan, “Kita berada di jalur yang tepat untuk banyak skenario paling agresif di mana pada akhir tahun depan keadaan bisa saja sudah di luar kendali,” katanya.

Diluar Kendali

Peneliti yang bekerja di OpenAI sebelum bergabung dengan Anthropic awal tahun ini, mengatakan bahwa persaingan antara kedua perusahaan, serta dengan pesaing dari Tiongkok, membuat kompromi keamanan menjadi tak terhindarkan.

“Kita berada di jalur yang tepat menuju banyak skenario paling agresif di mana pada akhir tahun depan segalanya bisa jadi sudah di luar kendali,” katanya kepada Journal, yang mencatat bahwa Coxon melaporkan bahwa rekan-rekan AI-nya menggunakan istilah “masa kritis” dan “akhir permainan” untuk menggambarkan keadaan model AI yang berkembang pesat dan mampu meningkatkan diri sendiri.

Dalam unggahan-unggahannya, Coxon membahas pola pikir industri AI:

“Respons umum yang sering muncul adalah 'jika mereka benar-benar percaya ini, mengapa mereka masih membangunnya?' Di OpenAI, banyak yang belum sepenuhnya memahami dampak peradaban yang ditimbulkannya. Di Anthropic, dampaknya sudah dipahami dengan baik, tetapi mereka terjebak dalam perlombaan untuk menjadi yang pertama, mereka percaya tidak ada orang lain yang akan bertindak secara bertanggung jawab, jadi mereka harus melakukannya sendiri, meskipun ada risikonya.”

Jurnal tersebut mencatat bahwa Coxon bukanlah satu-satunya yang menyuarakan kekhawatiran ini, dan mengutip CEO OpenAI, Sam Altman, yang baru-baru ini mengatakan pada sebuah pertemuan puncak di North Carolina: “Saya pikir beberapa hal akan berjalan sangat salah dengan keamanan siber kecuali orang-orang bertindak dengan sangat mendesak.”

Coxon mengakhiri pesannya yang terdiri dari tujuh bagian tentang X dengan mengatakan bahwa dia "optimis tentang potensi koordinasi" dan mendesak para peneliti lain untuk angkat bicara.

“Tembakan peringatan seperti serangan Hugging Face telah membuat kesepakatan pengaturan kecepatan antara laboratorium AS menjadi lebih layak,” tulisnya. “Saya merasa kita tidak berada di jalur yang tepat untuk mencegah perlombaan global, yang mungkin memerlukan tindakan mahal seperti larangan sementara untuk meningkatkan kemampuan model.