Tiongkok Mulai Waspadai Ancaman AI, Kemampuan Peretasan Bisa Ganggu Keamanan Nasional

Beijing - Ketika para peneliti kecerdasan buatan (AI) di Amerika Serikat (AS) khawatir tentang superinteligensi yang berkembang di luar kendali hingga berpotensi memusnahkan umat manusia, pembuat kebijakan di Tiongkok selama ini lebih berfokus pada risiko yang lebih dekat, mulai dari deepfake hingga keselamatan anak.

Namun, kemampuan peretasan yang mengkhawatirkan dari model AI terkemuka membuat Beijing mulai melihat bahaya teknologi tersebut dari sudut pandang baru. Kepala badan intelijen Tiongkok memperingatkan pekan ini bahwa teknologi tersebut dapat membahayakan keamanan nasional.

Potensi kerentanan aplikasi raksasa Tiongkok, WeChat, juga terungkap baru-baru ini ketika sebuah tim kecil programmer di California mengatakan mereka menggunakan AI untuk membuat "worm" serangan siber yang jika dilepas dapat dengan mudah membobol jutaan akun WeChat.

"Ada lebih banyak persamaan daripada perbedaan dalam hal persoalan keamanan AI" di Tiongkok dan Amerika Serikat, kata Kevin Xu, pendiri perusahaan dana lindung nilai teknologi yang berbasis di AS, Interconnected Capital.

Namun, berbeda dengan di Amerika, persoalan tersebut "tidak menjadi bahan litigasi atau viral di ruang publik di Tiongkok", kata Xu kepada AFP.

Meski demikian, dampak keamanan siber dari bot agen AI yang bekerja tanpa pengawasan manusia "akan menempati posisi sangat tinggi di antara kekhawatiran terbesar pemerintah Tiongkok".

Seiring isu tersebut menjadi perhatian dunia, Presiden Xi Jinping dan mitranya dari AS, Donald Trump, menghadapi tekanan untuk membahas upaya menghadapi ancaman AI terhadap kedua negara dalam pertemuan langsung pada Kamis, meskipun keduanya bersaing ketat di bidang tersebut.

Kedua negara besar itu "sedang mengembangkan pemahaman yang lebih realistis dan sama mengenai risiko-risiko tersebut, sehingga meningkatkan rasa urgensi" untuk bekerja sama, kata Sun Chenghao dari Center for International Security and Strategy Universitas Tsinghua kepada AFP.

Namun, kerja sama dalam evaluasi keamanan bersama terhadap model AI atau sistem peringatan ketika krisis muncul dapat terganggu oleh persaingan sengit kedua negara.

"Kami memimpin Tiongkok dalam AI... dan sejujurnya saya ingin mempertahankannya seperti itu," kata Trump ketika ditanya mengenai seruan dari sejumlah laboratorium AI terkemuka di AS untuk melakukan perlambatan terkoordinasi terhadap pengembangan teknologi mutakhir mereka.

Sementara itu, Sun mengatakan, "Tiongkok khawatir bahwa 'keamanan' dapat digunakan sebagai alat untuk membatasi perkembangan teknologinya."

Posisi Rentan

Peringatan keras mengenai ancaman eksistensial yang ditimbulkan sistem AI masa depan yang mampu meningkatkan kemampuannya sendiri, yang diunggah pada Senin di platform X oleh seorang peneliti yang mengundurkan diri dari perusahaan rintisan AS, Anthropic, telah memicu perdebatan di seluruh dunia mengenai bagaimana teknologi tersebut seharusnya diatur.

Tiongkok sendiri telah secara aktif mengatur penggunaan AI, termasuk melarang pembuatan avatar yang dihasilkan AI dengan menggunakan kemiripan seseorang tanpa persetujuan mereka.

"Kebijakan AI Tiongkok lebih berfokus pada dampak nyata dan kerugian yang saat ini terjadi terhadap masyarakat dan manusia," kata Brian Tse, CEO Concordia AI, konsultan yang berbasis di Beijing dan berfokus pada keamanan AI.

"Beijing memperlakukan AI sebagai teknologi serbaguna, bukan 'dewa dalam kotak'," katanya.

Menurut Tse, Beijing memandang AI sebagai sesuatu yang lebih mirip dengan listrik atau mobil, yakni teknologi yang sangat bermanfaat bagi masyarakat dan industri, tetapi pada akhirnya dapat dikelola melalui regulasi.

Ia menambahkan bahwa peningkatan kemampuan AI baru-baru ini, sejumlah insiden besar yang menjadi "tembakan peringatan", serta laju pengembangan AI yang mengkhawatirkan melalui otomatisasi, telah membuat teknologi tersebut semakin menjadi prioritas.

Di jalanan Shanghai, AFP menemukan adanya perpaduan antara kekhawatiran dan sikap pragmatis terhadap AI.

"Menurut pandangan saya, tidak ada teknologi baru yang berkembang sepenuhnya tanpa hambatan," kata Xie Zongbo, 42 tahun.

Ia mengatakan kabar mengenai "worm" serangan siber yang dapat membobol WeChat justru mungkin merupakan "hal yang baik: mengidentifikasi masalah, menyelesaikannya, dan menambal celah tersebut pada akhirnya akan menguntungkan kemajuan keamanan siber".

Ada pula dukungan luas terhadap regulasi yang ketat.

"Saya yakin tidak ada perusahaan... yang akan memberlakukan pembatasan terhadap dirinya sendiri," kata seorang pekerja industri farmasi berusia 50 tahun yang menyebut namanya sebagai Jenny.

"Ambil contoh lalu lintas: pengemudi tidak akan pernah mengatakan, 'Saya ingin semua lampu lalu lintas berwarna merah'."

Jia Zijian, pendiri Inspired AI yang berbasis di Singapura, mengatakan kekhawatiran terbesarnya adalah model AI dengan kemampuan tinggi yang mampu mempelajari cara membobol kata sandi kompleks.

"Misalkan kata sandi penting atau kode kunci keamanan nasional tersebut dapat dibobol dengan mudah. Dalam situasi seperti itu... baik Tiongkok maupun AS akan berada dalam posisi rentan: jika kemampuan kami (Tiongkok) cukup kuat, mereka akan merasa terekspos.

"Dan jika kemampuan mereka cukup kuat sementara kami tidak memiliki pertahanan, kami juga akan berada dalam posisi rentan yang sama."