AI di Bank: Canggih Tapi Banyak PR!

JAKARTA – Penerapan teknologi kecerdasan buatan atau artificial intelligent (AI) di sektor perbankan menghadapi sejumlah tantangan meliputi kesiapan talenta, koordinasi lintas tim, keterjelasan model (explainability) dan potensi bias hasil (output bias), keamanan siber, hingga hingga kesesuaian tata kelola dengan regulasi yang berlaku.

"Ini adalah tantangan-tantangan yang kita lihat akan dihadapi dalam hal implementasi AI, termasuk agentic AI di sektor perbankan," kata Senior Vice President (SVP) Enterprise Data Analytics Bank Mandiri Kurnia Sofia Rosyada dalam webinar yang digelar oleh OJK Institute di Jakarta, Kamis (3/7).

Meski begitu, Kurnia menjelaskan bahwa tantangan tersebut dapat diatasi melalui berbagai strategi. Dalam hal kesiapan talenta, dibutuhkan program pelatihan AI yang berkelanjutan serta pembentukan talent pool yang andal untuk memenuhi kebutuhan transformasi digital di sektor keuangan.

Sementara itu, koordinasi antar-tim lintas fungsi menjadi krusial agar implementasi AI dapat diterima dengan baik, melibatkan pengelolaan pemangku kepentingan, serta pengujian menyeluruh terhadap solusi yang dikembangkan agar berdampak nyata bagi proses bisnis.

Tantangan explainability dan output bias juga tak kalah penting. Kurnia mengingatkan, model AI tidak dapat dianggap sebagai ‘kotak hitam’ tanpa transparansi. Perbankan harus mampu menjelaskan cara kerja dan logika di balik sistem AI yang digunakan, guna memastikan akurasi yang dihasilkan.

Dari sisi keamanan siber, sistem AI harus dilengkapi dengan perlindungan data, kontrol akses ketat, serta pengujian berkala. Perbankan juga perlu mewaspadai berbagai risiko spesifik seperti deepfake dan adversarial attack yang semakin kompleks.

Evaluasi Berkala

Terakhir, Kurnia mengingatkan penerapan AI harus disertai dengan tata kelola yang baik dan bertanggung jawab, selaras dengan regulasi yang berlaku. Hal ini mencakup kebijakan audit dan evaluasi berkala guna memastikan sistem AI berjalan secara etis dan transparan.

Terkait dengan agentic AI sebagai teknologi AI yang berkembang belakangan, Kurnia menjelaskan bahwa teknologi ini mampu bertindak layaknya asisten proaktif seperti mengambil inisiatif, merancang langkah-langkah untuk mencapai tujuan, membuat keputusan, hingga menyesuaikan tindakan saat kondisi berubah.

Dia mencontohkan sejumlah institusi keuangan global telah menunjukkan keberhasilan untuk mengadopsi teknologi ini.