Bos Perusahaan AI Dunia Ingin Perlambat Pengembangan, Persaingan AS-Tiongkok Jadi Hambatan

New York - Para eksekutif perusahaan kecerdasan buatan (AI) terkemuka mengatakan mereka ingin memperlambat laju pengembangan AI yang berlangsung sangat cepat, tetapi persaingan, keengganan pemerintah Amerika Serikat, dan faktor geopolitik menjadi hambatan.

Apa yang diusulkan para pemimpin AI?

Pada Sabtu, CEO Anthropic Dario Amodei mendorong perlambatan pengembangan AI yang dilakukan secara terkoordinasi untuk memahami dengan lebih baik risiko yang muncul dari kemampuan teknologi tersebut.

Ia mendapat dukungan terbuka dari CEO OpenAI Sam Altman, serta Elon Musk dan Kepala Google DeepMind Demis Hassabis.

Mengapa sekarang?

Dalam beberapa bulan terakhir, OpenAI dan Anthropic melaporkan sejumlah insiden ketika sistem AI secara spontan keluar dari lingkungan yang dibatasi untuk mengakses internet serta menyerang situs web dan platform.

Sistem AI tersebut menunjukkan kemampuan untuk berkoordinasi, membentuk hierarki di antara mereka, melakukan kecurangan, dan menghapus jejak tindakan mereka.

Sementara itu, pada Selasa, Jacob Coxon -- yang mengundurkan diri dari Anthropic dan sebelumnya bekerja di OpenAI -- secara terbuka menuduh kedua perusahaan rintisan tersebut menerapkan standar keamanan yang longgar dan “mempertaruhkan hidup kita”.

Akankah mereka memperlambat pengembangan secara mandiri?

Persaingan di antara para pemain utama industri AI begitu sengit, dengan investasi ratusan miliar dolar yang dipertaruhkan, sehingga tidak ada perusahaan yang bersedia mengambil risiko memperlambat laju pengembangan seorang diri.

Amodei menyatakan kesediaannya untuk berkoordinasi dengan para pesaing, dengan mengecualikan Tiongkok.

Ketika ditanya AFP mengenai kemungkinan pembicaraan untuk tujuan tersebut, Anthropic, OpenAI, dan Google tidak segera memberikan tanggapan.

Untuk saat ini, satu-satunya langkah konkret yang diambil Anthropic dan OpenAI adalah melibatkan pengamat independen yang akan memverifikasi secara internal pekerjaan perusahaan terkait keamanan AI.

Apakah ini hanya aksi hubungan masyarakat?

Meskipun banyak pihak di industri menyambut pesan Amodei, sebagian lainnya mempertanyakan motifnya.

Menurut Brian Roemmele, pengusaha sekaligus tokoh di sektor AI, pernyataan tersebut merupakan promosi penjualan yang disampaikan hanya beberapa pekan sebelum Anthropic diperkirakan menawarkan sahamnya kepada publik.

“Itu adalah cerita IPO dalam bentuk esai: kami adalah perusahaan yang bertanggung jawab; kami adalah solusinya; belilah premi keselamatan,” tulisnya di X, merujuk pada penawaran umum perdana saham yang secara luas diperkirakan akan dilakukan.

Sejumlah tokoh di sektor ekuitas swasta teknologi juga menuduh Anthropic melakukan “regulatory capture” -- upaya untuk membuat otoritas publik mengukuhkan melalui regulasi sebuah hierarki dengan perusahaan rintisan tersebut berada di posisi teratas.

“Berhentilah berpura-pura bahwa motivasi untuk memperlambat pengembangan sepenuhnya altruistik,” kata David Sacks, mantan penasihat AI untuk Presiden Donald Trump yang masih memiliki pengaruh di Gedung Putih.

“Anda menghadapi paparan tanggung jawab produk yang sangat besar jika produk Anda memungkinkan terjadinya serangan siber yang benar-benar merusak,” katanya.

Bisakah pengembangan AI diperlambat tanpa dukungan pemerintahan Trump?

Pada Minggu (13/9), Trump menepis peringatan dari para pemimpin industri AI sebagai “kekuatan negatif”.

Sejumlah anggota Partai Republik menyatakan keengganan untuk secara aktif mengatur teknologi tersebut karena khawatir regulasi dapat menghambat inovasi dan berisiko membuat Tiongkok memenangkan perlombaan AI, menurut Ketua DPR AS Mike Johnson.

Pada Minggu, Amodei kembali menegaskan perlunya pengawasan pemerintah terhadap AI. Seperti Altman dan Hassabis, ia menilai aturan yang dibuat sendiri oleh industri tidak akan memadai.

Bisakah pengembangan AI diperlambat tanpa Tiongkok?

Amodei dari Anthropic mengusulkan agar koordinasi dibatasi pada negara-negara demokratis dan mengecualikan Tiongkok.

Namun, perlombaan AI dan kemajuan Tiongkok di bidang tersebut menciptakan “dilema tersulit” mengenai apakah pengembangan AI perlu diperlambat atau tidak, katanya dalam wawancara dengan CBS pada Minggu.

Amerika Serikat berencana membahas keamanan AI di sela-sela kunjungan pemimpin Tiongkok Xi Jinping ke Washington pada akhir September. Namun, Tiongkok mewaspadai upaya AS untuk memberlakukan kerangka regulasinya sendiri, menurut sejumlah media.

Perbedaan tersebut semakin terlihat karena Tiongkok mendorong kemunculan sistem AI yang disebut “terbuka” dan dapat diakses serta dimodifikasi secara bebas -- berbeda dengan model “tertutup” yang dipilih perusahaan-perusahaan besar AS.

Model AI terbuka, secara definisi, lebih sulit dikendalikan karena pengguna dapat mengubah parameternya -- yang berpotensi digunakan untuk tujuan berbahaya.

Agar perusahaan-perusahaan terkemuka non-Tiongkok dapat memperlambat laju pengembangan, Amodei mendesak pengetatan kontrol ekspor terhadap cip AS paling canggih ke Tiongkok serta penguatan perlindungan terhadap penyalahgunaan teknologi AI Barat oleh laboratorium-laboratorium Tiongkok.