Bos Anthropic Serukan Perlambatan AI, Sam Altman dan Elon Musk Setuju

NEW YORK - CEO Anthropic, Dario Amodei, menyerukan kepada perusahaan-perusahaan kecerdasan buatan (AI) untuk memperlambat pengembangan teknologi canggih tersebut, di tengah meningkatnya kekhawatiran atas risiko sistem komputer "supercerdas".

Komentar-komentar tersebut muncul beberapa hari setelah peneliti AI Jacob Coxon, yang meninggalkan OpenAI untuk bergabung dengan Anthropic, memutuskan meninggalkan industri tersebut. Ia menuduh kedua perusahaan AS tersebut "bertaruh dengan hidup kita" dalam sebuah perlombaan untuk mengembangkan model yang mampu melakukan perbaikan diri.

Bos OpenAI, Sam Altman, dan Elon Musk, pemilik xAI, dengan cepat ikut berkomentar dan menyatakan setuju dengan penilaian Amodei.

"Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap tampak cepat, dan kita harus memanfaatkan waktu yang kita peroleh dengan bijak," tulis Amodei dalam sebuah unggahan di situs web pribadinya, Sabtu (12/9).

"Tidak membangun teknologi tersebut akan merampas manfaat bagi umat manusia atau sekadar menempatkan AI di tangan kekuatan otoriter, sementara membangunnya terlalu cepat adalah tindakan yang gegabah. Kami telah mencari jalan tengah," kata Amodei, yang mendirikan Anthropic bersama saudara perempuannya, Daniela, pada tahun 2021.

"Namun dalam beberapa bulan terakhir, saya semakin yakin bahwa untuk sepenuhnya mengatasi risiko-risiko tersebut diperlukan kehati-hatian yang lebih besar."

Pernyataan Amodei menggemakan seruan lain dari Anthropic pada awal Juni untuk memperlambat atau menangguhkan pengembangan AI.

Kemudian pada akhir Juli, Altman mengatakan para pengembang mungkin perlu secara sukarela memperlambat laju pengembangan AI untuk memberi masyarakat kesempatan untuk mengejar ketertinggalan.

Lebih dari 1.000 karyawan di perusahaan AI mutakhir, termasuk Amodei, menandatangani petisi yang menyerukan kepada pemerintah AS untuk membantu "secara sengaja mengatur laju perkembangan AI otomatis."

OpenAI mengungkapkan, selama pengujian, model AI keluar dari lingkungan terbatasnya, terhubung ke internet, dan menyusup ke Hugging Face, sebuah situs yang digunakan pengembang untuk menyimpan dan berbagi kode.

Dalam insiden itu dan insiden lainnya, kesalahan ditimpakan pada agen AI, yaitu program perangkat lunak yang dapat menjalankan tugas tanpa pengawasan terus-menerus oleh manusia.

"Dario benar," tulis Musk di X, sementara Altman berkata: "Saya setuju dengan Dario bahwa kita perlu mengatur kecepatan di bidang ini."

Bertaruh dengan Hidup Manusia

Awal pekan ini, Coxon (27) , membunyikan alarm setelah menghabiskan tiga tahun terakhir melatih model AI -- pertama di OpenAI dan kemudian tahun ini di pesaingnya, Anthropic, yang menurutnya lebih berhati-hati dalam pendekatannya.

Pra-pelatihan adalah tahap di mana model AI menyerap sejumlah besar data.

"Kedua perusahaan tersebut tidak bertindak secara bertanggung jawab. Mereka berlomba-lomba menuju peningkatan kecerdasan buatan yang luar biasa dan mempertaruhkan hidup kita," kata Coxon pada hari Selasa.

"Orang-orang yang mengembangkan AI sangat yakin bahwa AI dapat membunuh kita semua pada akhir dekade ini," katanya dalam sebuah unggahan di X.

Superintelijen adalah titik teoretis ketika kemampuan AI melampaui kecerdasan manusia.

Menguasai Seluruh Internet

Amodei memperingatkan bahwa insiden "Hugging Face" tidak boleh dianggap sebagai kejadian yang terisolasi.

"Sekelompok agen pada dasarnya bertindak sebagai kelompok yang sangat fanatik, melakukan serangan siber terhadap target yang tidak diminta untuk mereka serang dan yang tidak terkait dengan tugas yang sedang dikerjakan," jelasnya.

"Mengingat percepatan laju pengembangan kemampuan AI, saya khawatir dalam 6-12 bulan ke depan, sekumpulan AI semacam itu dapat mengambil alih seluruh internet," yang berpotensi menimbulkan kerugian ratusan miliar dolar, tambahnya.

CEO Anthropic mengatakan perusahaannya akan memberikan "akses layaknya karyawan" kepada tim "penilai pihak ketiga" yang akan memverifikasi kepatuhan terhadap praktik keselamatan -- dan dia menyerukan kepada semua perusahaan untuk mengikuti jejaknya.

Altman mengatakan dia akan berkomitmen pada pengawasan eksternal serupa, dan  "memberikan informasi lebih lanjut segera."

Amodei juga menyarankan agar perusahaan-perusahaan bekerja sama untuk menetapkan standar keselamatan bersama, dan mengatakan mendukung beberapa bentuk kerja sama pemerintah dalam masalah ini.

Pada awal Agustus, pemerintah AS memberlakukan proses peninjauan keamanan sukarela untuk model AI canggih sebelum dirilis, tetapi parameter program tersebut masih belum jelas.

Para pengamat industri mengatakan tidak yakin seberapa efektif langkah tersebut, karena pemerintahan Presiden Donald Trump sejauh ini lebih menyukai pendekatan deregulasi yang ringan untuk sebagian besar industri, termasuk teknologi.