Jangan Asal Pakai AI! Wamenkomdigi Soroti Risiko di Sektor Keuangan

JAKARTA – Tata kelola AI di sektor keuangan menjadi kunci agar pemanfaatan teknologi tidak mengorbankan keamanan dan kepercayaan publik.

Penggunaan AI untuk analisis risiko, kredit, hingga deteksi fraud perlu dibarengi transparansi algoritma, perlindungan data, mitigasi bias, dan pengawasan manusia.

Tanpa tata kelola yang kuat, efisiensi AI justru dapat membuka risiko baru bagi stabilitas sistem keuangan dan konsumen.

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menekankan pentingnya tata kelola pemanfaatan teknologi kecerdasan artifisial (AI) di sektor keuangan.

Dalam siaran yang dikonfirmasi di Jakarta, Jumat (28/8), dia menilai perkembangan AI di sektor jasa keuangan telah memasuki tahap baru dengan kehadiran AI agentik yang memungkinkan sistem AI mengambil keputusan secara lebih mandiri, termasuk menjalankan transaksi. Kondisi ini memunculkan risiko baru yang perlu diantisipasi melalui tata kelola dan regulasi.

"Agentic AI apabila diberikan otoritas tertentu untuk pengambilan keputusan, dia bisa juga melakukan transaksi. Dan transaksi itu dilakukan antara agentic AI juga. AI dan AI berkomunikasi untuk memutuskan transaksi," kata Nezar.

Perkembangan tersebut mengubah cara melihat risiko AI di sektor keuangan. Ketika AI hanya berfungsi sebagai alat bantu, keputusan akhir masih berada pada manusia.

Namun, ketika AI memperoleh kewenangan untuk mengambil keputusan dan mengeksekusi tindakan, konsekuensi dari kesalahan sistem dapat langsung berdampak pada transaksi dan konsumen.

"Risikonya tentu besar juga sehingga mitigasi, regulasi, dalam soal ini harus kita siapkan juga mulai sekarang," kata Nezar.

Oleh karena itu, pemerintah perlu menyiapkan tata kelola sebelum penggunaan AI dengan tingkat otonomi tinggi berkembang lebih luas. Kerangka tata kelola tersebut perlu mengatur batas kewenangan AI, mekanisme pengawasan manusia, akuntabilitas keputusan, keamanan data, serta mitigasi risiko ketika sistem AI berinteraksi dengan sistem AI lainnya.

Kementerian Komunikasi dan Digital telah memiliki Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial sebagai salah satu acuan pemanfaatan AI secara bertanggung jawab.

Pemerintah juga tengah menyiapkan Peta Jalan Kecerdasan Artifisial Nasional dan panduan etika AI sebagai bagian dari kerangka tata kelola AI Indonesia.

"Ini sedang dalam proses untuk bisa ditetapkan menjadi peraturan presiden bersama dengan panduan untuk etika AI," ujar Nezar.

Perkembangan AI juga mengubah kebutuhan kompetensi di sektor keuangan. Talenta dinilai tidak cukup memahami cara menggunakan AI, mereka perlu menguasai tata kelola data, manajemen risiko AI, keamanan siber, serta aspek etika dan akuntabilitas.