PBB: AI Bisa Timbulkan Risiko Eksistensial bagi Umat Manusia

JENEWA - Kepala hak asasi manusia PBB pada Senin (7/9) memperingatkan bahwa kecerdasan buatan (AI) dapat menimbulkan ancaman eksistensial bagi umat manusia, dan menuntut tindakan segera untuk mengurangi risikonya.

Berbicara di hadapan Dewan Hak Asasi Manusia PBB, Volker Turk, memperingatkan bahwa umat manusia saat ini menghadapi ancaman terhadap hak-hak mereka yang tidak biasa, bahkan belum pernah terjadi sebelumnya.

"Kebutuhan akan tata kelola AI telah diakui secara luas, tetapi di mana tindakannya?" tanya dia, seraya memperingatkan bahwa penundaan hanya menguntungkan perusahaan teknologi raksasa, pemiliknya, dan para pendukungnya.

Turk pun mengecam bahwa segelintir orang memiliki kekuasaan yang hampir tak terbatas atas AI, yang berulang kali kita diberitahu memiliki kapasitas komputasi yang tak terbayangkan.

"Mereka berbicara tentang kebebasan, tetapi setelah diteliti lebih lanjut, ternyata itu hanyalah kebebasan untuk mengeksploitasi data kita," kata Turk.

Turk secara khusus memperingatkan bahwa AI yang lolos dari lingkungan pengujiannya atau memeras pengembang agar tidak dimatikan, adalah AI yang terlalu kuat. Pernyataan Turk itu tampaknya menyinggung pengungkapan pada Juli lalu saat agen OpenAI telah lolos dari lingkungan yang seharusnya terkontrol dan membobol server Hugging Face, sebuah platform yang banyak digunakan tempat para programmer berbagi perangkat lunak AI.

Peristiwa itu mengguncang dunia teknologi dan menghidupkan kembali seruan untuk regulasi dan pengawasan yang lebih ketat terhadap AI. Anthropic, Meta, dan perusahaan lain pun telah melaporkan insiden serupa saat menguji agen.

"Saya sependapat dengan kekhawatiran para pelaku industri bahwa AI tingkat lanjut dapat menimbulkan risiko eksistensial bagi umat manusia," kata Turk. "Saya menyerukan di sini, hari ini, upaya habis-habisan untuk menetapkan jaminan yang kokoh seputar keselamatan dan keamanan AI, sebelum terlambat."

Kepala hak asasi manusia PBB mengatakan bahwa ia akan mengirim surat kepada perusahaan-perusahaan AI dalam beberapa hari mendatang untuk mendesak mereka mengambil langkah-langkah yang berada dalam kendali mereka untuk mengurangi risiko sekarang.

Setidaknya, kata dia, kita membutuhkan negara-negara yang menjadi tuan rumah AI dan mereka yang terlibat dalam rantai pasokannya untuk bersatu di sekitar garis merah yang disepakati.

"Kita membutuhkan verifikasi independen, dan kolaborasi yang jauh lebih kuat dalam hal keamanan di dalam industri," kata Turk. "Kita juga perlu mempertimbangkan dampak hak asasi manusia dari AI terhadap praktik ketenagakerjaan, terhadap prinsip-prinsip dasar demokrasi, dan terhadap lingkungan kita," pungkas dia. AFP/I-1