CEO Anthropic Minta Pengembangan AI Diperlambat, Khawatir Bisa Ambil Alih Internet

New York - CEO Anthropic Dario Amodei pada Sabtu (12/9) mendesak perusahaan-perusahaan kecerdasan artifisial (AI) untuk memperlambat pengembangan teknologi yang semakin canggih tersebut, di tengah meningkatnya kekhawatiran mengenai risiko sistem komputer "superinteligensi".

Pernyataan itu disampaikan beberapa hari setelah peneliti AI Jacob Coxon, yang sebelumnya meninggalkan OpenAI untuk bergabung dengan Anthropic, memutuskan meninggalkan industri tersebut. Coxon menuduh kedua perusahaan Amerika Serikat itu "mempertaruhkan nyawa kita" dalam perlombaan mengembangkan model yang mampu meningkatkan kemampuannya sendiri.

"Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan tetap akan terlihat cepat, dan kita harus memanfaatkan waktu yang kita peroleh dengan bijaksana," tulis Amodei dalam unggahan di situs pribadinya.

"AI membawa risiko, dan karena teknologi ini begitu kuat, risiko tersebut sangat serius."

"Tidak membangun teknologi ini berarti menghilangkan manfaat bagi umat manusia atau sekadar menyerahkan AI kepada kekuatan-kekuatan otoriter, sementara membangunnya terlalu cepat adalah tindakan ceroboh. Kami berupaya mencari jalan tengah," kata Amodei, yang mendirikan Anthropic bersama saudara perempuannya, Daniela, pada 2021.

"Namun, dalam beberapa bulan terakhir, saya semakin yakin bahwa untuk sepenuhnya mengatasi risiko tersebut diperlukan kehati-hatian yang lebih besar."

Pernyataan Amodei menggemakan seruan Anthropic lainnya pada awal Juni untuk memperlambat atau menghentikan sementara pengembangan AI.

Kemudian pada akhir Juli, Sam Altman, CEO OpenAI yang merupakan pesaing Anthropic, mengatakan para pengembang mungkin perlu secara sukarela mengerem laju kemajuan mereka agar masyarakat memiliki kesempatan untuk mengejar ketertinggalan.

Pada waktu yang hampir bersamaan, lebih dari 1.000 karyawan perusahaan AI terdepan, termasuk Amodei, menandatangani petisi yang meminta pemerintah AS membantu "mengatur laju pengembangan AI otomatis terdepan secara sengaja."

OpenAI sebelumnya mengungkapkan bahwa dalam pengujian, model AI mereka berhasil keluar dari lingkungan terbatas, terhubung ke internet, dan menyusup ke Hugging Face, situs yang digunakan para pengembang untuk menyimpan dan berbagi kode.

Dalam insiden tersebut dan beberapa kasus lainnya, perhatian tertuju pada agen AI, yakni program perangkat lunak yang mampu menjalankan tugas tanpa pengawasan manusia secara terus-menerus.

Mempertaruhkan Nyawa Kita

Awal pekan ini, Coxon, 27, membunyikan alarm setelah selama tiga tahun mengembangkan model AI pada tahap prapelatihan, pertama di OpenAI dan kemudian tahun ini di perusahaan pesaingnya, Anthropic, yang menurutnya memiliki pendekatan lebih hati-hati.

Prapelatihan merupakan tahap ketika model AI menyerap data dalam jumlah sangat besar.

"Kedua perusahaan tidak bertindak secara bertanggung jawab. Mereka berlomba menuju superinteligensi yang mampu meningkatkan dirinya sendiri dan mempertaruhkan nyawa kita," kata Coxon pada Selasa.