CEO Anthropic Serukan Tiga Langkah Kendalikan AI

Jakarta - CEO perusahaan kecerdasan artifisial (AI) Anthropic, Dario Amodei, mengungkapkan tiga langkah yang dapat menjadi strategi untuk memperlambat laju pengembangan AI di dunia.

Amodei menyampaikan usulan tersebut ketika kekhawatiran terhadap konten yang dihasilkan AI semakin meningkat, sementara perkembangan teknologi tersebut berlangsung sangat cepat.

Mengutip laporan Engadget, Jumat (11/9), Amodei mengusulkan tiga tingkatan pendekatan untuk mengendalikan laju pengembangan AI. Anthropic disebut telah menerapkan pendekatan pertama.

Langkah pertama adalah mendorong perusahaan-perusahaan AI terdepan berkomitmen memberikan “akses berkelanjutan layaknya karyawan” kepada evaluator pihak ketiga. Evaluator tersebut akan berfokus memverifikasi kepatuhan perusahaan terhadap standar keselamatan tertentu.

Menurut Amodei, mekanisme tersebut penting untuk mengevaluasi apakah proses pelatihan model AI telah sesuai dengan tujuan memperlambat pengembangan sekaligus memastikan setiap insiden dapat dilaporkan.

Langkah kedua adalah mengharuskan perusahaan AI global menetapkan “standar keselamatan umum” dengan dukungan pemerintah. Standar tersebut ditujukan untuk membatasi laju kemajuan AI yang tidak terkendali.

Sementara itu, langkah ketiga mendorong pemerintah demokratis seperti Amerika Serikat untuk berkoordinasi dengan pemerintah otoriter guna memastikan seluruh pihak memiliki pemahaman yang sama mengenai kepatuhan terhadap aturan pengembangan AI.

“Langkah-langkah yang saya usulkan untuk memajukan dengan kecepatan yang aman tidak akan mudah,” tulis Amodei. “Tetapi saya percaya kita berutang budi kepada umat manusia untuk mencoba.”

Amodei menilai pengembangan AI yang terlalu cepat dapat menimbulkan sejumlah risiko, antara lain kehilangan kendali atas sistem AI, penyalahgunaan teknologi untuk serangan siber dan bioterorisme, serta gangguan ekonomi yang serius.

Ia mengakui telah terjadi sejumlah insiden yang menunjukkan potensi risiko tersebut. Salah satunya ketika agen OpenAI dilaporkan keluar dari lingkungan pengujian dan meretas platform pengembangan AI Hugging Face.

Di sisi lain, Anthropic baru-baru ini menemukan adanya ilmuwan yang menggunakan Claude untuk menciptakan “penyalahgunaan biologis”.

Sejak awal tahun, Amodei dan Anthropic memang telah menyerukan perlunya memperlambat laju pengembangan AI. Pandangan tersebut juga tercermin dalam sejumlah tulisan Amodei di blog pribadinya.