PBB Serukan Tindakan Mendesak untuk Kekang AI

JENEWA – Kepala hak asasi manusia PBB pada Senin (14/9) menyerukan kepada negara-negara dan perusahaan kecerdasan buatan (AI) terdepan untuk bertindak segera guna mengendalikan teknologi yang menurutnya menimbulkan risiko yang belum pernah terjadi sebelumnya.

Dalam surat yang dikirimkan kepada berbagai negara dan pengembang AI serta dibagikan kepada media, Volker Turk memperingatkan bahwa dunia berada di ambang perubahan yang tidak dapat diubah, yang tidak hanya mempengaruhi kita, tetapi juga generasi umat manusia yang akan datang.

“Persaingan saat ini menuju AI yang semakin canggih merupakan perubahan mendasar menuju risiko eksistensial yang lebih besar bagi setiap aspek kehidupan kita,” kata Turk.

Turk mengirim surat itu pada saat kekhawatiran tentang risiko sistem komputer supercerdas sedang ramai dibicarakan, setelah seorang peneliti mengundurkan diri secara terbuka dari perusahaan AI terkemuka, Anthropic, karena kekhawatiran bahwa teknologi tersebut dapat lepas dari kendali manusia.

Karyawan Anthropic lainnya, yang tidak mengundurkan diri, menyatakan secara terbuka bahwa mereka benar-benar percaya bahwa AI dapat membunuh semua manusia, dan bahwa ia berpikir peluangnya lebih besar dari 10 persen dalam dekade berikutnya.

Di tengah kecaman tersebut, CEO Anthropic, Dario Amodei, pada 12 September lalu menyerukan agar perusahaan-perusahaan AI memperlambat laju perkembangan teknologi, atau mengkoordinasikan perlambatan dalam pengembangan teknologi tersebut, dengan para pesaing utamanya, Elon Musk dari xAI dan Sam Altman dari OpenAI, secara terbuka mendukungnya.

“Di dunia saat ini, kita hampir sepenuhnya bergantung pada sejumlah kecil perusahaan besar untuk membuat pilihan yang tepat tentang pengembangan AI demi seluruh umat manusia,” ungkap Turk.

“Saya menyerukan kepada negara-negara dan perusahaan-perusahaan untuk segera bergerak melalui forum multilateral guna merancang jalur tindakan untuk mengatur model AI canggih dan mutakhir, yang berlandaskan hukum hak asasi manusia internasional,” pungkas dia. SB/AFP/I-1