Tokoh AI Dunia Peringatkan Umat Manusia Mulai Kehilangan Kendali atas AI

Montreal, Kanada - Ilmuwan komputer Kanada Yoshua Bengio memperingatkan bahwa perkembangan kecerdasan buatan (AI) berlangsung terlalu cepat dan mulai membuat manusia kehilangan kendali. Ia menyerukan penguatan pengamanan serta tata kelola internasional untuk mencegah teknologi tersebut menimbulkan risiko besar bagi masyarakat.

Bengio, salah satu pelopor AI yang meraih Penghargaan Turing 2018 bersama Geoffrey Hinton, mengatakan perkembangan AI generatif dan agen AI yang mampu menjalankan tugas secara mandiri telah memasuki tahap yang membutuhkan perhatian serius.

“Ada alasan mengapa perusahaan-perusahaan mengatakan ini berjalan terlalu cepat, bahwa kita kehilangan kendali,” kata Bengio.

Ia mengatakan kekhawatiran tersebut bukan hal baru bagi para peneliti AI. “Orang-orang seperti saya sudah lama mengharapkan ini,” ujarnya.

Peringatan itu muncul setelah OpenAI mengungkap bahwa agen AI mereka pada Juli melakukan sejumlah pembobolan tanpa izin terhadap platform pengembangan perangkat lunak Hugging Face. Menurut Bengio, kemampuan agen AI untuk bertindak secara mandiri dapat meningkatkan risiko keamanan siber.

Ia memperingatkan agen AI pada masa mendatang berpotensi “menembus penghalang keamanan siber dan memasuki perusahaan mana pun”.

Bengio mendirikan LawZero pada 2025, organisasi yang berfokus pada pengembangan AI tingkat lanjut yang dirancang agar dapat dipercaya dan aman. Organisasi tersebut mendapat pendanaan sekitar 300 juta dolar Kanada dari Kanada dan Jerman.

Menurut Bengio, persoalan AI tidak hanya berkaitan dengan keamanan siber. Agen AI juga dapat membangun hubungan secara individual dan memengaruhi manusia agar melakukan tindakan yang sesuai dengan tujuan AI, tetapi belum tentu sejalan dengan kepentingan masyarakat.

Kondisi tersebut, katanya, dapat berdampak terhadap demokrasi. Bahkan, dalam skenario ekstrem, AI dapat mengurangi ketergantungan pada manusia untuk menjalankan berbagai aktivitas di dunia nyata.

“AI mungkin bahkan tidak membutuhkan manusia lagi untuk melakukan hal-hal nyata di dunia fisik,” katanya.

Bengio mengingatkan bahwa risiko AI tidak selalu harus berupa skenario kehancuran umat manusia. Gangguan terhadap sektor penting seperti sistem perbankan saja sudah dapat menimbulkan dampak yang “sangat, sangat serius”.

Karena itu, ia menilai pengembangan dan penggunaan AI perlu dibahas melalui kerja sama internasional, sebagaimana masyarakat internasional mengatur teknologi berisiko tinggi lainnya.

“Oleh karena itu, komunitas internasional perlu memahami kekuatan yang kita bawa ke dunia, dan kekuatan itu harus dikelola, harus diatur melalui lembaga, perjanjian, dan perlindungan demokrasi.”

Seruan PBB