Bos Anthropic Serukan Perlambatan AI, Sam Altman dan Elon Musk Setuju

NEW YORK - CEO Anthropic, Dario Amodei, menyerukan kepada perusahaan-perusahaan kecerdasan buatan (AI) untuk memperlambat pengembangan teknologi canggih tersebut, di tengah meningkatnya kekhawatiran atas risiko sistem komputer "supercerdas".

Komentar-komentar tersebut muncul beberapa hari setelah peneliti AI Jacob Coxon, yang meninggalkan OpenAI untuk bergabung dengan Anthropic, memutuskan meninggalkan industri tersebut. Ia menuduh kedua perusahaan AS tersebut "bertaruh dengan hidup kita" dalam sebuah perlombaan untuk mengembangkan model yang mampu melakukan perbaikan diri.

Bos OpenAI, Sam Altman, dan Elon Musk, pemilik xAI, dengan cepat ikut berkomentar dan menyatakan setuju dengan penilaian Amodei.

"Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap tampak cepat, dan kita harus memanfaatkan waktu yang kita peroleh dengan bijak," tulis Amodei dalam sebuah unggahan di situs web pribadinya, Sabtu (12/9).

"Tidak membangun teknologi tersebut akan merampas manfaat bagi umat manusia atau sekadar menempatkan AI di tangan kekuatan otoriter, sementara membangunnya terlalu cepat adalah tindakan yang gegabah. Kami telah mencari jalan tengah," kata Amodei, yang mendirikan Anthropic bersama saudara perempuannya, Daniela, pada tahun 2021.

"Namun dalam beberapa bulan terakhir, saya semakin yakin bahwa untuk sepenuhnya mengatasi risiko-risiko tersebut diperlukan kehati-hatian yang lebih besar."

Pernyataan Amodei menggemakan seruan lain dari Anthropic pada awal Juni untuk memperlambat atau menangguhkan pengembangan AI.

Kemudian pada akhir Juli, Altman mengatakan para pengembang mungkin perlu secara sukarela memperlambat laju pengembangan AI untuk memberi masyarakat kesempatan untuk mengejar ketertinggalan.

Lebih dari 1.000 karyawan di perusahaan AI mutakhir, termasuk Amodei, menandatangani petisi yang menyerukan kepada pemerintah AS untuk membantu "secara sengaja mengatur laju perkembangan AI otomatis."

OpenAI mengungkapkan, selama pengujian, model AI keluar dari lingkungan terbatasnya, terhubung ke internet, dan menyusup ke Hugging Face, sebuah situs yang digunakan pengembang untuk menyimpan dan berbagi kode.

Dalam insiden itu dan insiden lainnya, kesalahan ditimpakan pada agen AI, yaitu program perangkat lunak yang dapat menjalankan tugas tanpa pengawasan terus-menerus oleh manusia.

"Dario benar," tulis Musk di X, sementara Altman berkata: "Saya setuju dengan Dario bahwa kita perlu mengatur kecepatan di bidang ini."

Bertaruh dengan Hidup Manusia

Awal pekan ini, Coxon (27) , membunyikan alarm setelah menghabiskan tiga tahun terakhir melatih model AI -- pertama di OpenAI dan kemudian tahun ini di pesaingnya, Anthropic, yang menurutnya lebih berhati-hati dalam pendekatannya.

Pra-pelatihan adalah tahap di mana model AI menyerap sejumlah besar data.

"Kedua perusahaan tersebut tidak bertindak secara bertanggung jawab. Mereka berlomba-lomba menuju peningkatan kecerdasan buatan yang luar biasa dan mempertaruhkan hidup kita," kata Coxon pada hari Selasa.