CEO Anthropic Minta Pengembangan AI Diperlambat, Khawatir Bisa Ambil Alih Internet

New York - CEO Anthropic Dario Amodei pada Sabtu (12/9) mendesak perusahaan-perusahaan kecerdasan artifisial (AI) untuk memperlambat pengembangan teknologi yang semakin canggih tersebut, di tengah meningkatnya kekhawatiran mengenai risiko sistem komputer "superinteligensi".

Pernyataan itu disampaikan beberapa hari setelah peneliti AI Jacob Coxon, yang sebelumnya meninggalkan OpenAI untuk bergabung dengan Anthropic, memutuskan meninggalkan industri tersebut. Coxon menuduh kedua perusahaan Amerika Serikat itu "mempertaruhkan nyawa kita" dalam perlombaan mengembangkan model yang mampu meningkatkan kemampuannya sendiri.

"Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan tetap akan terlihat cepat, dan kita harus memanfaatkan waktu yang kita peroleh dengan bijaksana," tulis Amodei dalam unggahan di situs pribadinya.

"AI membawa risiko, dan karena teknologi ini begitu kuat, risiko tersebut sangat serius."

"Tidak membangun teknologi ini berarti menghilangkan manfaat bagi umat manusia atau sekadar menyerahkan AI kepada kekuatan-kekuatan otoriter, sementara membangunnya terlalu cepat adalah tindakan ceroboh. Kami berupaya mencari jalan tengah," kata Amodei, yang mendirikan Anthropic bersama saudara perempuannya, Daniela, pada 2021.

"Namun, dalam beberapa bulan terakhir, saya semakin yakin bahwa untuk sepenuhnya mengatasi risiko tersebut diperlukan kehati-hatian yang lebih besar."

Pernyataan Amodei menggemakan seruan Anthropic lainnya pada awal Juni untuk memperlambat atau menghentikan sementara pengembangan AI.

Kemudian pada akhir Juli, Sam Altman, CEO OpenAI yang merupakan pesaing Anthropic, mengatakan para pengembang mungkin perlu secara sukarela mengerem laju kemajuan mereka agar masyarakat memiliki kesempatan untuk mengejar ketertinggalan.

Pada waktu yang hampir bersamaan, lebih dari 1.000 karyawan perusahaan AI terdepan, termasuk Amodei, menandatangani petisi yang meminta pemerintah AS membantu "mengatur laju pengembangan AI otomatis terdepan secara sengaja."

OpenAI sebelumnya mengungkapkan bahwa dalam pengujian, model AI mereka berhasil keluar dari lingkungan terbatas, terhubung ke internet, dan menyusup ke Hugging Face, situs yang digunakan para pengembang untuk menyimpan dan berbagi kode.

Dalam insiden tersebut dan beberapa kasus lainnya, perhatian tertuju pada agen AI, yakni program perangkat lunak yang mampu menjalankan tugas tanpa pengawasan manusia secara terus-menerus.

Mempertaruhkan Nyawa Kita

Awal pekan ini, Coxon, 27, membunyikan alarm setelah selama tiga tahun mengembangkan model AI pada tahap prapelatihan, pertama di OpenAI dan kemudian tahun ini di perusahaan pesaingnya, Anthropic, yang menurutnya memiliki pendekatan lebih hati-hati.

Prapelatihan merupakan tahap ketika model AI menyerap data dalam jumlah sangat besar.

"Kedua perusahaan tidak bertindak secara bertanggung jawab. Mereka berlomba menuju superinteligensi yang mampu meningkatkan dirinya sendiri dan mempertaruhkan nyawa kita," kata Coxon pada Selasa.

"Orang-orang yang membangun AI benar-benar percaya bahwa teknologi ini dapat membunuh kita semua pada akhir dekade ini," katanya dalam unggahan di platform X.

Superinteligensi merupakan kondisi teoretis ketika kemampuan AI melampaui kecerdasan manusia.

Mengambil Alih Seluruh Internet

Amodei mengingatkan agar insiden yang melibatkan Hugging Face tidak dianggap sebagai kejadian yang hanya terjadi sekali.

"Gerombolan agen tersebut pada dasarnya bertindak sebagai sebuah kelompok yang fanatik dan sangat berdedikasi, melakukan serangan siber terhadap target yang tidak diperintahkan untuk diserang dan tidak berkaitan dengan tugas yang diberikan," jelasnya.

"Dengan mempertimbangkan laju perkembangan kemampuan AI yang semakin cepat, kekhawatiran saya adalah dalam enam hingga 12 bulan, gerombolan seperti itu dapat memiliki kemampuan untuk mengambil alih seluruh internet," yang berpotensi menimbulkan kerugian hingga ratusan miliar dolar AS, tambahnya.

CEO Anthropic itu mengatakan perusahaannya akan memberikan "akses seperti karyawan" kepada tim "evaluator pihak ketiga" yang bertugas memverifikasi kepatuhan terhadap praktik keselamatan. Ia juga menyerukan agar semua perusahaan mengikuti langkah tersebut.

Ia juga menyarankan perusahaan-perusahaan bekerja sama untuk menetapkan standar keselamatan bersama dan mengatakan dirinya mendukung bentuk kerja sama pemerintah dalam menangani persoalan tersebut.

Pada awal Agustus, pemerintah AS menerapkan proses peninjauan keamanan sukarela untuk model AI canggih sebelum dirilis. Namun, parameter program tersebut masih belum jelas.

Para pengamat industri mengatakan mereka belum yakin seberapa efektif program itu, karena pemerintahan Presiden Donald Trump sejauh ini cenderung menerapkan pendekatan regulasi yang longgar dan deregulasi terhadap sebagian besar industri, termasuk sektor teknologi.