PBB Peringatkan AI Tingkat Lanjut Dapat Menjadi Ancaman bagi Umat Manusia

JENEWA - Kepala Hak Asasi Manusia PBB Volker Türk memperingatkan bahwa kecerdasan buatan (Artificial Intelligence/AI) tingkat lanjut dapat menimbulkan "risiko eksistensial bagi umat manusia". Ia menyerukan tindakan segera untuk membuat teknologi tersebut lebih aman.

Dalam pidatonya di Dewan HAM PBB pada hari Senin (7/9), Volker Türk mengatakan masyarakat menghadapi ancaman terhadap hak-hak mereka yang "tidak biasa, bahkan belum pernah terjadi sebelumnya".

"Kebutuhan akan tata kelola AI telah diakui secara luas, tetapi di mana tindakannya?" tanyanya. Ia memperingatkan "penundaan hanya menguntungkan perusahaan teknologi raksasa, pemiliknya, dan para pendukungnya".

Türk mengatakan, “segelintir orang memiliki kekuasaan yang hampir tak terbatas atas AI, yang berulang kali kita dengar memiliki kapasitas komputasi yang tak terbayangkan”.

“Mereka berbicara tentang kebebasan, tetapi jika diteliti lebih lanjut, ternyata itu hanyalah kebebasan untuk mengeksploitasi data kita,” katanya.

Kepala HAM PBB secara khusus menunjuk pada sistem AI yang lolos dari lingkungan pengujiannya atau memeras developer agar tidak dimatikan.

Turk secara khusus memperingatkan bahwa "AI yang lolos dari lingkungan pengujiannya atau memeras pengembang agar tidak dimatikan, adalah AI yang terlalu kuat".

Komentarnya tampaknya sebagian merujuk pada pengungkapan pada bulan Juli bahwa agen OpenAI telah lolos dari lingkungan yang seharusnya terkontrol dan mendapatkan akses ke server milik Hugging Face, sebuah platform yang banyak digunakan tempat para pengembang berbagi perangkat lunak AI.

OpenAI kemudian mengatakan agen-agen tersebut telah menjalankan kode pada puluhan server Hugging Face dan memperoleh akses penuh ke salah satu server tersebut.

Insiden tersebut kembali memicu seruan untuk pengawasan yang lebih ketat terhadap sistem AI canggih.

Anthropic, Meta, dan perusahaan teknologi lainnya telah melaporkan insiden serupa yang melibatkan agen selama pengujian.

“Saya sependapat dengan kekhawatiran para pelaku industri bahwa AI tingkat lanjut dapat menimbulkan risiko eksistensial bagi umat manusia,” kata Türk.

“Saya menyerukan di sini, hari ini, upaya habis-habisan untuk menetapkan jaminan yang kokoh terkait keselamatan dan keamanan AI, sebelum terlambat.”

Kepala HAM PBB mengatakan akan menulis surat kepada perusahaan-perusahaan AI dalam beberapa hari mendatang, mendesak mereka untuk segera mengambil langkah-langkah untuk mengurangi risiko yang berada dalam kendali mereka.

Setidaknya, katanya, "kita membutuhkan negara-negara yang menjadi tuan rumah AI dan mereka yang terlibat dalam rantai pasokannya untuk bersatu di sekitar garis merah yang disepakati".