Bukan Lagi KYC, tapi KYA, Pelaku Bisnis Diminta Wamenkomdigi Kenali Agen AI yang Digunakan

JAKARTA - Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menganjurkan para pelaku bisnis mengenali agen kecerdasan buatan atau akal imitasi (AI) yang mereka gunakan dalam sistem bisnis maupun penyelenggaraan layanan pelanggan.

"Bukan lagi KYC, Know Your Customer, tapi harus ada KYA, Know Your Agent," katanya sebagaimana dikutip dalam keterangan pers perusahaan yang diterima di Jakarta, Jumat.

Ia menyampaikan bahwa kini semakin banyak perusahaan yang memanfaatkan agen AI untuk membantu layanan pelanggan, transaksi, dan berbagai proses bisnis.

Dukungan teknologi ini tidak hanya mengandalkan model AI generatif, tetapi juga algoritma dan otorisasi untuk memproses data serta menjalankan tindakan tertentu.

"Dengan mesin bisa membuat keputusan sendiri, risiko meningkat," kata Nezar.

Karena agen AI dapat berinteraksi dengan sistem perusahaan dan memproses data berdasarkan otorisasi yang diberikan, ia menjelaskan, penggunaan agen AI perlu diikuti dengan pemahaman mengenai identitas, kepemilikan, dan batas kewenangannya.

"Kadang ada agentic AI yang mungkin dia akan mem-bypass sejumlah peraturan-peraturan ataupun regulasi yang dibuat ataupun batasan-batasan di dalam satu korporasi karena dia bisa bertindak," katanya.

Dia menekankan pentingnya perusahaan melakukan langkah-langkah untuk mengantisipasi risiko-risiko tersebut ketika memanfaatkan dukungan agen AI untuk berinteraksi dengan pelanggan atau menjalankan transaksi.

"Karena nanti yang akan berhubungan dengan Bapak/Ibu sekalian bukan lagi orang, ada juga agentic AI lain yang akan bertanya ataupun akan masuk, atau individu yang punya agentic AI," katanya.

Nezar juga mengingatkan bahwa penggunaan AI mesti memperhatikan pelindungan data pribadi.

Ia mengemukakan bahwa risiko kebocoran dan penyalahgunaan data tidak hanya berkaitan dengan keamanan sistem, tetapi dapat pula muncul dari cara teknologi baru diberi akses dan kewenangan untuk memproses data.

Oleh karena itu, ia menekankan pentingnya penerapan prinsip security by design dan privacy by design sejak tahap perancangan sistem.

"Kedua prinsip tersebut perlu menjadi bagian dari upaya perusahaan memastikan pemrosesan data berjalan sejalan dengan ketentuan pelindungan data pribadi," katanya.

Nezar menyampaikan bahwa pemerintah terbuka menerima masukan dari para pelaku usaha mengenai penanganan persoalan-persoalan baru dalam penerapan teknologi.