Tokoh AI Dunia Peringatkan Umat Manusia Mulai Kehilangan Kendali atas AI

Montreal, Kanada - Ilmuwan komputer Kanada Yoshua Bengio memperingatkan bahwa perkembangan kecerdasan buatan (AI) berlangsung terlalu cepat dan mulai membuat manusia kehilangan kendali. Ia menyerukan penguatan pengamanan serta tata kelola internasional untuk mencegah teknologi tersebut menimbulkan risiko besar bagi masyarakat.

Bengio, salah satu pelopor AI yang meraih Penghargaan Turing 2018 bersama Geoffrey Hinton, mengatakan perkembangan AI generatif dan agen AI yang mampu menjalankan tugas secara mandiri telah memasuki tahap yang membutuhkan perhatian serius.

“Ada alasan mengapa perusahaan-perusahaan mengatakan ini berjalan terlalu cepat, bahwa kita kehilangan kendali,” kata Bengio.

Ia mengatakan kekhawatiran tersebut bukan hal baru bagi para peneliti AI. “Orang-orang seperti saya sudah lama mengharapkan ini,” ujarnya.

Peringatan itu muncul setelah OpenAI mengungkap bahwa agen AI mereka pada Juli melakukan sejumlah pembobolan tanpa izin terhadap platform pengembangan perangkat lunak Hugging Face. Menurut Bengio, kemampuan agen AI untuk bertindak secara mandiri dapat meningkatkan risiko keamanan siber.

Ia memperingatkan agen AI pada masa mendatang berpotensi “menembus penghalang keamanan siber dan memasuki perusahaan mana pun”.

Bengio mendirikan LawZero pada 2025, organisasi yang berfokus pada pengembangan AI tingkat lanjut yang dirancang agar dapat dipercaya dan aman. Organisasi tersebut mendapat pendanaan sekitar 300 juta dolar Kanada dari Kanada dan Jerman.

Menurut Bengio, persoalan AI tidak hanya berkaitan dengan keamanan siber. Agen AI juga dapat membangun hubungan secara individual dan memengaruhi manusia agar melakukan tindakan yang sesuai dengan tujuan AI, tetapi belum tentu sejalan dengan kepentingan masyarakat.

Kondisi tersebut, katanya, dapat berdampak terhadap demokrasi. Bahkan, dalam skenario ekstrem, AI dapat mengurangi ketergantungan pada manusia untuk menjalankan berbagai aktivitas di dunia nyata.

“AI mungkin bahkan tidak membutuhkan manusia lagi untuk melakukan hal-hal nyata di dunia fisik,” katanya.

Bengio mengingatkan bahwa risiko AI tidak selalu harus berupa skenario kehancuran umat manusia. Gangguan terhadap sektor penting seperti sistem perbankan saja sudah dapat menimbulkan dampak yang “sangat, sangat serius”.

Karena itu, ia menilai pengembangan dan penggunaan AI perlu dibahas melalui kerja sama internasional, sebagaimana masyarakat internasional mengatur teknologi berisiko tinggi lainnya.

“Oleh karena itu, komunitas internasional perlu memahami kekuatan yang kita bawa ke dunia, dan kekuatan itu harus dikelola, harus diatur melalui lembaga, perjanjian, dan perlindungan demokrasi.”

Seruan PBB

Sekretaris Jenderal PBB Antonio Guterres turut menyerukan pengamanan global untuk menghadapi perkembangan AI. Ia mengatakan dunia membutuhkan kesepahaman mengenai cara mengembangkan AI secara aman, terjamin, dan bertanggung jawab.

“Kita memerlukan pemahaman bersama mengenai cara memajukan pengembangan AI yang aman, terjamin, dan bertanggung jawab, sembari mengidentifikasi kapan sistem yang kian canggih ini mungkin memerlukan pengaman yang lebih ketat atau langkah tambahan untuk mengelola potensi risiko,” kata Guterres.

Menurut dia, pengelolaan AI membutuhkan kerja sama lintas negara karena teknologi tersebut dan risikonya tidak mengenal batas wilayah.

“Hal ini menuntut kerja sama internasional yang sungguh-sungguh serta upaya global yang terkoordinasi,” ujarnya.

Guterres mengatakan dunia membutuhkan batas pengaman untuk membangun kepercayaan sekaligus memastikan AI tetap aman, transparan, dan akuntabel dengan menempatkan martabat manusia sebagai pusat.

“Kita memerlukan batas pengaman untuk membangun kepercayaan, serta menjadikan AI aman, transparan, dan akuntabel, dengan menempatkan martabat manusia sebagai pusatnya. Di saat dunia menghadapi tiga ancaman eksistensial, yakni AI yang tak terkendali, krisis iklim, dan kesenjangan yang kian mendalam hingga ke tingkat yang tak dapat ditoleransi, kerja sama internasional menjadi lebih penting daripada sebelumnya,” katanya.

Ia mengakui sebagian pihak menyerukan jeda sementara dalam pengembangan AI, sementara pihak lain mendorong penerapan batas pengaman.