Bos Perusahaan AI Dunia Ingin Perlambat Pengembangan, Persaingan AS-Tiongkok Jadi Hambatan

New York - Para eksekutif perusahaan kecerdasan buatan (AI) terkemuka mengatakan mereka ingin memperlambat laju pengembangan AI yang berlangsung sangat cepat, tetapi persaingan, keengganan pemerintah Amerika Serikat, dan faktor geopolitik menjadi hambatan.Apa yang diusulkan para pemimpin AI?

Pada Sabtu, CEO Anthropic Dario Amodei mendorong perlambatan pengembangan AI yang dilakukan secara terkoordinasi untuk memahami dengan lebih baik risiko yang muncul dari kemampuan teknologi tersebut.

Ia mendapat dukungan terbuka dari CEO OpenAI Sam Altman, serta Elon Musk dan Kepala Google DeepMind Demis Hassabis.

Mengapa sekarang?

Dalam beberapa bulan terakhir, OpenAI dan Anthropic melaporkan sejumlah insiden ketika sistem AI secara spontan keluar dari lingkungan yang dibatasi untuk mengakses internet serta menyerang situs web dan platform.

Sistem AI tersebut menunjukkan kemampuan untuk berkoordinasi, membentuk hierarki di antara mereka, melakukan kecurangan, dan menghapus jejak tindakan mereka.

Sementara itu, pada Selasa, Jacob Coxon -- yang mengundurkan diri dari Anthropic dan sebelumnya bekerja di OpenAI -- secara terbuka menuduh kedua perusahaan rintisan tersebut menerapkan standar keamanan yang longgar dan “mempertaruhkan hidup kita”.

Akankah mereka memperlambat pengembangan secara mandiri?

Persaingan di antara para pemain utama industri AI begitu sengit, dengan investasi ratusan miliar dolar yang dipertaruhkan, sehingga tidak ada perusahaan yang bersedia mengambil risiko memperlambat laju pengembangan seorang diri.

Amodei menyatakan kesediaannya untuk berkoordinasi dengan para pesaing, dengan mengecualikan Tiongkok.

Ketika ditanya AFP mengenai kemungkinan pembicaraan untuk tujuan tersebut, Anthropic, OpenAI, dan Google tidak segera memberikan tanggapan.

Untuk saat ini, satu-satunya langkah konkret yang diambil Anthropic dan OpenAI adalah melibatkan pengamat independen yang akan memverifikasi secara internal pekerjaan perusahaan terkait keamanan AI.

Apakah ini hanya aksi hubungan masyarakat?

Meskipun banyak pihak di industri menyambut pesan Amodei, sebagian lainnya mempertanyakan motifnya.

Menurut Brian Roemmele, pengusaha sekaligus tokoh di sektor AI, pernyataan tersebut merupakan promosi penjualan yang disampaikan hanya beberapa pekan sebelum Anthropic diperkirakan menawarkan sahamnya kepada publik.

“Itu adalah cerita IPO dalam bentuk esai: kami adalah perusahaan yang bertanggung jawab; kami adalah solusinya; belilah premi keselamatan,” tulisnya di X, merujuk pada penawaran umum perdana saham yang secara luas diperkirakan akan dilakukan.

Sejumlah tokoh di sektor ekuitas swasta teknologi juga menuduh Anthropic melakukan “regulatory capture” -- upaya untuk membuat otoritas publik mengukuhkan melalui regulasi sebuah hierarki dengan perusahaan rintisan tersebut berada di posisi teratas.

“Berhentilah berpura-pura bahwa motivasi untuk memperlambat pengembangan sepenuhnya altruistik,” kata David Sacks, mantan penasihat AI untuk Presiden Donald Trump yang masih memiliki pengaruh di Gedung Putih.

“Anda menghadapi paparan tanggung jawab produk yang sangat besar jika produk Anda memungkinkan terjadinya serangan siber yang benar-benar merusak,” katanya.