Laporan Safe-Agent: Perusahaan Belum Siap Hadapi Risiko AI Otonom

JAKARTA — Perkembangan teknologi kecerdasan buatan atau artificial intelligence (AI) yang semakin otonom dinilai memunculkan tantangan baru di bidang keamanan siber dan tata kelola perusahaan. Kondisi ini terungkap dalam laporan terbaru yang dirilis oleh Zentara Labs berjudul Safe-Agent: An Agentic AI Security Framework for the Enterprise and Public Sector.

Laporan tersebut menyoroti meningkatnya penggunaan sistem AI yang mampu bekerja secara mandiri di lingkungan perusahaan, mulai dari otomatisasi proses bisnis hingga pengambilan keputusan digital. Namun, di tengah percepatan adopsi teknologi tersebut, kesiapan keamanan siber dinilai belum berkembang dengan kecepatan yang sama.

Co-Founder dan CEO Zentara, Regal Rauniyar Star, mengatakan AI kini mulai beroperasi dengan tingkat independensi yang belum pernah diantisipasi oleh pendekatan keamanan tradisional.

“AI kini mulai beroperasi dengan tingkat independensi yang belum pernah diantisipasi oleh pendekatan keamanan tradisional. Kondisi ini menciptakan kesenjangan antara cara sistem AI bekerja dengan kemampuan perusahaan dalam memantau serta mengelola risikonya,” ujar Regal dalam keterangan resmi, Selasa (13/5).

Menurut laporan tersebut, perusahaan di Indonesia mulai mengeksplorasi penggunaan AI otonom yang dapat menjalankan tindakan secara mandiri di dalam sistem digital perusahaan. Situasi ini memunculkan tantangan baru terkait pengawasan, kontrol, serta mitigasi risiko keamanan.

President Zentara, Darian Kuswanto, menilai fokus perusahaan kini perlu bergeser, bukan hanya pada kemampuan teknologi AI, tetapi juga pada tata kelola dan pengawasan penggunaannya.

“Membangun pemahaman mengenai tata kelola AI sejak dini akan menjadi langkah penting, tidak hanya untuk mengelola risiko, tetapi juga menjaga kepercayaan publik,” kata Darian.

Laporan itu juga menyoroti meningkatnya ancaman keamanan siber di tengah adopsi AI yang semakin luas di sektor keuangan, layanan pelanggan, hingga layanan publik. Dalam beberapa tahun terakhir, Indonesia menghadapi berbagai insiden siber seperti anomali lalu lintas digital, upaya peretasan, dan kebocoran data yang berdampak pada institusi publik maupun swasta.

Para pakar keamanan siber turut mengamati meningkatnya penggunaan AI untuk mengotomatisasi serangan siber. Teknologi tersebut dinilai membuat pola serangan menjadi lebih cepat, lebih adaptif, dan semakin sulit dideteksi menggunakan sistem keamanan konvensional.

Selain aspek keamanan, perkembangan AI juga memunculkan tantangan tata kelola yang lebih luas. Diskusi mengenai penyalahgunaan AI, termasuk penyebaran konten menyesatkan atau berbahaya yang dihasilkan sistem AI, mendorong perhatian regulator dan publik terhadap pentingnya pengawasan yang lebih ketat.

Secara global, sejumlah insiden keamanan berbasis AI dan munculnya berbagai panduan keamanan baru dari lembaga industri menunjukkan bahwa risiko teknologi AI mulai dipandang serius. Namun, implementasi tata kelola dan keamanan AI di tingkat perusahaan disebut masih belum merata.

Di Indonesia dan kawasan Asia Tenggara, laju adopsi AI dinilai terus melampaui perkembangan praktik tata kelola dan keamanan. Kondisi tersebut dalam laporan disebut sebagai “deployment gap” atau kesenjangan implementasi.

Sebagai langkah mitigasi, laporan Safe-Agent merekomendasikan sejumlah hal penting bagi perusahaan dan pembuat kebijakan. Di antaranya adalah mendefinisikan akses sistem secara jelas, meningkatkan pemantauan terhadap aktivitas berbasis AI, menetapkan batasan pada tindakan berisiko tinggi, serta memastikan adanya akuntabilitas dalam penggunaan sistem AI otonom.