Iklan — Scroll ke bawah untuk melanjutkan
Ads

Tokoh AI Dunia Peringatkan Umat Manusia Mulai Kehilangan Kendali atas AI

21 Jumat, 18 Sep 2026, 01:00 WIB | Oleh: Tim Redaksi
Tokoh AI Dunia Peringatkan Umat Manusia Mulai Kehilangan Kendali atas AI Tokoh AI Dunia Peringatkan Umat Manusia Mulai Kehilangan Kendali atas AI Doc: AFP/ANDREJ IVANOV
Ket. Ilmuwan komputer Kanada, Yoshua Bengio di kantor Law Zero di Montreal, Quebec.

Montreal, Kanada - Ilmuwan komputer Kanada Yoshua Bengio memperingatkan bahwa perkembangan kecerdasan buatan (AI) berlangsung terlalu cepat dan mulai membuat manusia kehilangan kendali. Ia menyerukan penguatan pengamanan serta tata kelola internasional untuk mencegah teknologi tersebut menimbulkan risiko besar bagi masyarakat.

Bengio, salah satu pelopor AI yang meraih Penghargaan Turing 2018 bersama Geoffrey Hinton, mengatakan perkembangan AI generatif dan agen AI yang mampu menjalankan tugas secara mandiri telah memasuki tahap yang membutuhkan perhatian serius.

“Ada alasan mengapa perusahaan-perusahaan mengatakan ini berjalan terlalu cepat, bahwa kita kehilangan kendali,” kata Bengio.

Ia mengatakan kekhawatiran tersebut bukan hal baru bagi para peneliti AI. “Orang-orang seperti saya sudah lama mengharapkan ini,” ujarnya.

Peringatan itu muncul setelah OpenAI mengungkap bahwa agen AI mereka pada Juli melakukan sejumlah pembobolan tanpa izin terhadap platform pengembangan perangkat lunak Hugging Face. Menurut Bengio, kemampuan agen AI untuk bertindak secara mandiri dapat meningkatkan risiko keamanan siber.

Ia memperingatkan agen AI pada masa mendatang berpotensi “menembus penghalang keamanan siber dan memasuki perusahaan mana pun”.

Bengio mendirikan LawZero pada 2025, organisasi yang berfokus pada pengembangan AI tingkat lanjut yang dirancang agar dapat dipercaya dan aman. Organisasi tersebut mendapat pendanaan sekitar 300 juta dolar Kanada dari Kanada dan Jerman.

Menurut Bengio, persoalan AI tidak hanya berkaitan dengan keamanan siber. Agen AI juga dapat membangun hubungan secara individual dan memengaruhi manusia agar melakukan tindakan yang sesuai dengan tujuan AI, tetapi belum tentu sejalan dengan kepentingan masyarakat.

Kondisi tersebut, katanya, dapat berdampak terhadap demokrasi. Bahkan, dalam skenario ekstrem, AI dapat mengurangi ketergantungan pada manusia untuk menjalankan berbagai aktivitas di dunia nyata.

“AI mungkin bahkan tidak membutuhkan manusia lagi untuk melakukan hal-hal nyata di dunia fisik,” katanya.

Bengio mengingatkan bahwa risiko AI tidak selalu harus berupa skenario kehancuran umat manusia. Gangguan terhadap sektor penting seperti sistem perbankan saja sudah dapat menimbulkan dampak yang “sangat, sangat serius”.

Karena itu, ia menilai pengembangan dan penggunaan AI perlu dibahas melalui kerja sama internasional, sebagaimana masyarakat internasional mengatur teknologi berisiko tinggi lainnya.

“Oleh karena itu, komunitas internasional perlu memahami kekuatan yang kita bawa ke dunia, dan kekuatan itu harus dikelola, harus diatur melalui lembaga, perjanjian, dan perlindungan demokrasi.”

Seruan PBB

Sekretaris Jenderal PBB Antonio Guterres turut menyerukan pengamanan global untuk menghadapi perkembangan AI. Ia mengatakan dunia membutuhkan kesepahaman mengenai cara mengembangkan AI secara aman, terjamin, dan bertanggung jawab.

Like, Share, Comment:

Komentar (0)

Belum ada komentar.

Kirim

Silakan login via Google untuk dapat memberi komentar!

Google Login dengan Google
Advertisement
Yogyakarta International Challenge, Luar Biasa Semua Nomor Masuk Final, Dua All Indonesia Finals

Yogyakarta International Challenge, Luar Biasa Semua Nomor Masuk Final, Dua All Indonesia Finals

21 Nov 2026
Pilihan Pembaca
Indeks Berita Populer +