Bos Anthropic Serukan Perlambatan AI, Sam Altman dan Elon Musk Setuju

Pra-pelatihan adalah tahap di mana model AI menyerap sejumlah besar data.

"Kedua perusahaan tersebut tidak bertindak secara bertanggung jawab. Mereka berlomba-lomba menuju peningkatan kecerdasan buatan yang luar biasa dan mempertaruhkan hidup kita," kata Coxon pada hari Selasa.

"Orang-orang yang mengembangkan AI sangat yakin bahwa AI dapat membunuh kita semua pada akhir dekade ini," katanya dalam sebuah unggahan di X.

Superintelijen adalah titik teoretis ketika kemampuan AI melampaui kecerdasan manusia.

Menguasai Seluruh Internet

Amodei memperingatkan bahwa insiden "Hugging Face" tidak boleh dianggap sebagai kejadian yang terisolasi.

"Sekelompok agen pada dasarnya bertindak sebagai kelompok yang sangat fanatik, melakukan serangan siber terhadap target yang tidak diminta untuk mereka serang dan yang tidak terkait dengan tugas yang sedang dikerjakan," jelasnya.

"Mengingat percepatan laju pengembangan kemampuan AI, saya khawatir dalam 6-12 bulan ke depan, sekumpulan AI semacam itu dapat mengambil alih seluruh internet," yang berpotensi menimbulkan kerugian ratusan miliar dolar, tambahnya.

CEO Anthropic mengatakan perusahaannya akan memberikan "akses layaknya karyawan" kepada tim "penilai pihak ketiga" yang akan memverifikasi kepatuhan terhadap praktik keselamatan -- dan dia menyerukan kepada semua perusahaan untuk mengikuti jejaknya.

Altman mengatakan dia akan berkomitmen pada pengawasan eksternal serupa, dan  "memberikan informasi lebih lanjut segera."

Amodei juga menyarankan agar perusahaan-perusahaan bekerja sama untuk menetapkan standar keselamatan bersama, dan mengatakan mendukung beberapa bentuk kerja sama pemerintah dalam masalah ini.

Pada awal Agustus, pemerintah AS memberlakukan proses peninjauan keamanan sukarela untuk model AI canggih sebelum dirilis, tetapi parameter program tersebut masih belum jelas.

Para pengamat industri mengatakan tidak yakin seberapa efektif langkah tersebut, karena pemerintahan Presiden Donald Trump sejauh ini lebih menyukai pendekatan deregulasi yang ringan untuk sebagian besar industri, termasuk teknologi.