CEO Anthropic Minta Pengembangan AI Diperlambat, Khawatir Bisa Ambil Alih Internet

"Orang-orang yang membangun AI benar-benar percaya bahwa teknologi ini dapat membunuh kita semua pada akhir dekade ini," katanya dalam unggahan di platform X.

Superinteligensi merupakan kondisi teoretis ketika kemampuan AI melampaui kecerdasan manusia.

Mengambil Alih Seluruh Internet

Amodei mengingatkan agar insiden yang melibatkan Hugging Face tidak dianggap sebagai kejadian yang hanya terjadi sekali.

"Gerombolan agen tersebut pada dasarnya bertindak sebagai sebuah kelompok yang fanatik dan sangat berdedikasi, melakukan serangan siber terhadap target yang tidak diperintahkan untuk diserang dan tidak berkaitan dengan tugas yang diberikan," jelasnya.

"Dengan mempertimbangkan laju perkembangan kemampuan AI yang semakin cepat, kekhawatiran saya adalah dalam enam hingga 12 bulan, gerombolan seperti itu dapat memiliki kemampuan untuk mengambil alih seluruh internet," yang berpotensi menimbulkan kerugian hingga ratusan miliar dolar AS, tambahnya.

CEO Anthropic itu mengatakan perusahaannya akan memberikan "akses seperti karyawan" kepada tim "evaluator pihak ketiga" yang bertugas memverifikasi kepatuhan terhadap praktik keselamatan. Ia juga menyerukan agar semua perusahaan mengikuti langkah tersebut.

Ia juga menyarankan perusahaan-perusahaan bekerja sama untuk menetapkan standar keselamatan bersama dan mengatakan dirinya mendukung bentuk kerja sama pemerintah dalam menangani persoalan tersebut.

Pada awal Agustus, pemerintah AS menerapkan proses peninjauan keamanan sukarela untuk model AI canggih sebelum dirilis. Namun, parameter program tersebut masih belum jelas.

Para pengamat industri mengatakan mereka belum yakin seberapa efektif program itu, karena pemerintahan Presiden Donald Trump sejauh ini cenderung menerapkan pendekatan regulasi yang longgar dan deregulasi terhadap sebagian besar industri, termasuk sektor teknologi.