IBM Perkenalkan Perangkat Lunak untuk Satukan Tata Kelola dan Keamanan Berbasis Agentic AI

JAKARTA – Seiring semakin banyak perusahaan menggunakan agen AI di seluruh organisasinya, IBM meluncurkan perangkat lunak pertama di industri yang menyatukan tim keamanan dan tata kelola AI, serta memberikan pandangan terpadu terhadap risiko perusahaan.

Kemampuan baru ini meningkatkan dan mengintegrasikan watsonx.governance dan  Guardium AI Security untuk membantu klien menjaga sistem AI mereka, termasuk agen-agen AI, agar tetap aman dan bertanggung jawab dalam skala besar. Watsonx.governance adalah perangkat tata kelola AI komprehensif dari IBM, sedangkan Guardium AI Security adalah perangkat keamanan IBM untuk mengamankan model AI, data, dan penggunaannya.

“Agen AI diperkirakan akan merevolusi produktivitas perusahaan, namun manfaat besar dari agen AI juga bisa menjadi tantangan,” ujar Ritika Gunnar, General Manager, Data and AI, IBM. “Ketika sistem otonom seperti ini tidak dikelola atau diamankan dengan baik, konsekuensinya bisa sangat besar,” tambahnya melalui keterangan tertulis pada hari Senin (30/6).

Integrasi dan Otomatisasi Keamanan Agentic AI

IBM meningkatkan integrasi antara IBM Guardium AI Security dan watsonx.governance, dengan menghadirkan solusi terpadu pertama bagi pelaku usaha untuk mengelola risiko keamanan dan tata kelola terkait penggunaan AI. Integrasi ini mendukung proses pengguna dalam memastikan kepatuhan terhadap standar regulasi, dengan mengacu pada 12 kerangka kerja yang berbeda, termasuk EU AI Act dan ISO 42001.

IBM juga memperkenalkan kemampuan baru dalam Guardium AI Security melalui kolaborasi dengan AllTrue.ai, termasuk dengan kemampuan mendeteksi penggunaan AI baru di lingkungan cloud, repositori kode, dan embedded systems. Hal ini memberikan cakupan pengawasan dan perlindungan yang luas di tengah ekosistem AI yang semakin terdesentralisasi. Setelah penggunaan AI tersebut teridentifikasi, IBM Guardium AI Security dapat secara otomatis memicu alur kerja tata kelola dari watsonx.governance.

Update terbaru pada IBM Guardium AI Security  juga mencakup automated red teaming (tim keamanan yang melakukan serangan simulasi) untuk membantu perusahaan mendeteksi dan memperbaiki kerentanan dan kesalahan konfigurasi pada lintas skenario penggunaan AI.

Untuk memitigasi risiko seperti injeksi kode, kebocoran data sensitif, dan eksposur data, perangkat ini memungkinkan pengguna menentukan kebijakan keamanan khusus yang menganalisis input dan output AI. Semua fitur ini sudah tersedia saat ini di IBM Guardium AI Security dan integrasinya dengan watsonx.governance akan diluncurkan secara bertahap sepanjang tahun ini.

“Masa depan AI bergantung pada seberapa baik kita mengamankannya sejak sekarang. Menanamkan keamanan sejak awal sangat penting untuk melindungi data, memenuhi kewajiban kepatuhan, dan membangun kepercayaan yang berkelanjutan,” ujar Suja Viswesan, Vice President, Security and Runtime Products, IBM. 

“Salah satu tantangan terbesar bagi tim keamanan adalah menerjemahkan insiden dan pelanggaran kepatuhan ke risiko bisnis yang terukur. Adopsi AI yang pesat, terutama Agentic AI, memperbesar tantangan ini,” ujar Jennifer Glenn, Research Director, IDC Security and Trust Group. “Menyatukan tata kelola AI dengan keamanan AI memberikan konteks yang diperlukan oleh perusahaan untuk memprioritaskan risiko serta menjelaskan konsekuensi bila tidak segera ditangani.”

Evaluasi dan Tata Kelola Siklus Hidup Agentic AI yang Lebih Canggih.

IBM watsonx.governance kini dapat memantau dan mengelola agen AI sepanjang siklus hidup mereka – dari tahap pengembangan hingga implementasi. Pengguna dapat menanamkan evaluation nodes langsung ke dalam agen, sehingga mereka bisa memantau metrik penting seperti relevansi jawaban, konteks, dan kesesuaian dengan sumber data serta mengidentifikasi akar masalah dari performa yang buruk. Kemampuan tambahan yang direncanakan akan tersedia mulai 27 Juni mencakup: penilaian risiko onboarding agen, jejak audit agen, dan katalog tool agentik.

Kemampuan Kepatuhan Siap Pakai

IBM watsonx.governance Compliance Accelerators menyediakan kumpulan regulasi, standar, dan kerangka kerja global yang sudah dimuat sebelumnya, sehingga memudahkan pengguna untuk mengidentifikasi kewajiban yang relevan dan memetakan ke skenario AI mereka. Konten mencakup regulasi utama secara global seperti EU AI Act, SR 11-7 dari Federal Reserve AS, UU Lokal NYC 144, serta standar global seperti ISO/IEC 42001 dan NIST AI RMF. watsonx.governance Compliance Accelerators kini sudah tersedia sebagai fitur tambahan (add-on).