Ancaman AI Kian Nyata, Dark LLMs Picu Lonjakan Kejahatan Siber di Indonesia

JAKARTA – Perkembangan kecerdasan buatan (artificial intelligence/AI) menghadirkan tantangan serius bagi keamanan siber di Indonesia. Di balik manfaatnya bagi dunia usaha dan layanan publik, teknologi AI, khususnya model bahasa besar (large language models/LLMs) seperti ChatGPT dan Google Gemini dinilai memiliki risiko besar karena sifatnya yang dapat digunakan untuk tujuan ganda, termasuk kejahatan siber.

Ancaman tersebut dinilai semakin mendesak bagi Indonesia yang memiliki tingkat ketergantungan tinggi pada aplikasi pesan instan, platform e-commerce, serta layanan publik berbasis digital. Kondisi ini membuat masyarakat menjadi sasaran empuk kejahatan siber yang memanfaatkan AI, mulai dari phishing, penipuan digital, hingga penyebaran malware secara masif.

Sejumlah peringatan pemerintah dan pemberitaan sebelumnya mengungkap peredaran aplikasi ChatGPT palsu yang dimanfaatkan untuk menyebarkan malware dan menjalankan kampanye phishing. Indikator dari Tim Tanggap Insiden Keamanan Siber Nasional (CSIRT) juga menunjukkan munculnya pola ancaman bergaya agen AI, termasuk phishing yang semakin canggih dan berpotensi mencuri data pribadi serta kredensial keuangan.

Riset Palo Alto Networks Unit 42 bertajuk The Dual-Use Dilemma of AI: Malicious LLMs mengungkap keberadaan model AI berbahaya atau dark LLMs seperti WormGPT, FraudGPT, dan KawaiiGPT. Model-model ini dikembangkan tanpa pengaman dan kini diperjualbelikan secara terbuka melalui platform Telegram dan forum dark web.

Unit 42 menilai keberadaan dark LLMs secara signifikan menurunkan hambatan teknis bagi pelaku kejahatan siber. Pelaku tidak lagi memerlukan keahlian tinggi atau waktu lama untuk melancarkan serangan, sehingga kejahatan siber dapat dilakukan dalam skala besar dan menargetkan konteks lokal, termasuk di Indonesia.

Dalam laporannya, Unit 42 mengidentifikasi tiga dampak utama LLM berbahaya terhadap lanskap kejahatan siber di Indonesia. Pertama, kemampuan AI menghasilkan bahasa yang presisi memungkinkan pelaku membuat pesan phishing dan penyusupan email bisnis yang sangat meyakinkan, termasuk meniru gaya komunikasi pimpinan perusahaan, institusi keuangan, hingga lembaga pemerintah.

“Kedua, teknologi ini mendorong komersialisasi kejahatan siber. Malware, phishing kits, dan skrip pencurian data kini dapat dihasilkan secara instan, sesuatu yang sebelumnya hanya bisa dilakukan oleh pelaku dengan kemampuan teknis tinggi,” tulis Palo Alto Networks melalui siaran pers pada hari Kamis (15/1).

Ketiga, hilangnya hambatan teknis membuat kejahatan siber semakin terdemokratisasi. Pelaku dengan kemampuan rendah kini dapat menjalankan penipuan dan pemerasan digital secara cepat dan murah, menjadikan kejahatan siber sebagai operasi yang berulang dan masif.

Unit 42 mencatat WormGPT mampu menghasilkan konten penipuan dalam Bahasa Indonesia yang fasih dan kontekstual, sehingga serangan phishing dan social engineering menjadi semakin sulit dikenali.

Peningkatan pemanfaatan AI tingkat lanjut oleh pelaku ancaman siber mendorong percepatan aktivitas berbahaya di ruang digital. Kondisi ini menuntut pembuat kebijakan untuk segera menetapkan standar dan kerangka kerja yang mengatur proliferasi model AI berbahaya, sekaligus mewajibkan penerapan praktik keamanan terbaik seperti audit keamanan secara berkala.

Seiring Indonesia menyusun peta jalan AI nasional, Unit 42 menekankan bahwa tantangan utama bukanlah membatasi atau melarang penggunaan AI, melainkan membangun ketahanan keamanan siber terhadap serangan berbasis AI yang bergerak cepat dan berskala besar. Pendekatan prevention-first yang mengintegrasikan praktik AI yang aman ke dalam tata kelola dan strategi pertahanan dinilai krusial.

Kolaborasi antara pemerintah, regulator, dan sektor swasta pun dinilai menjadi kunci untuk memastikan praktik AI yang aman tertanam dalam peta jalan AI dan kerangka tata kelola nasional, sehingga Indonesia dapat memaksimalkan manfaat inovasi AI tanpa meningkatkan risiko terhadap organisasi, konsumen, dan layanan publik.