AI Bisa Bikin Uang Hilang hingga Ancam Nyawa, Pemerintah Ingatkan Risikonya

Jakarta - Wakil Menteri Komunikasi dan Digital Nezar Patria mengingatkan pentingnya mitigasi risiko dalam pemanfaatan kecerdasan artifisial atau akal imitasi (AI), terutama dalam pengambilan keputusan di bidang keuangan dan kesehatan.

Dalam keterangan persnya di Jakarta, Jumat (30/10), ia menyampaikan bahwa pemanfaatan AI mestinya tidak hanya berorientasi pada inovasi dan efisiensi, tetapi juga harus memperhitungkan risiko yang muncul ketika AI mengambil peran dalam proses pengambilan keputusan.

Penggunaan AI dalam pengambilan keputusan di bidang finansial dan kesehatan dapat menimbulkan risiko bagi masyarakat.

Kesalahan sistem AI yang diberi kewenangan menjalankan transaksi dapat memicu kerugian finansial.

"Di sektor layanan keuangan, misalnya perbankan, penggunaan AI, apalagi agentic AI, ketika kita memberikan otoritas kepadanya untuk melakukan tindakan dan pengambilan keputusan, apabila terjadi kesalahan, maka akan menjadi fatal," kata Nezar.

"Uang bisa hilang atau bahkan menimbulkan kekacauan yang bersifat sistemik akibat kesalahan eksekusi," ia menambahkan.

Dalam bidang kesehatan, pemanfaatan AI untuk membantu proses diagnosis penyakit atau mendukung pengambilan keputusan dalam pemberian layanan medis juga mengandung risiko.

Kesalahan sistem dalam memberikan diagnosis dan rekomendasi dapat berdampak serius karena berkaitan langsung dengan keselamatan manusia.​​​​​​​

"Penggunaan AI untuk mendiagnosis penyakit dan membantu pengambilan keputusan, baik oleh dokter maupun oleh agen AI dalam layanan medis, juga memiliki risiko tinggi. Di bidang kesehatan, yang dipertaruhkan adalah nyawa manusia," Nezar menjelaskan.​​​​​​​

Ia menyampaikan bahwa risiko penggunaan AI di bidang kesehatan juga mencakup keamanan data pribadi pasien.

Data menjadi elemen utama dalam pengembangan dan pengoperasian AI, karena itu pengelolaannya harus dilakukan secara hati-hati supaya informasi sensitif warga tidak bocor dan disalahgunakan.

Nezar menjelaskan, Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi merupakan salah satu instrumen penting dalam upaya untuk menjaga keamanan ekosistem AI nasional.

Penggunaan data dalam pengembangan teknologi harus tetap memperhatikan hak anggota masyarakat atas informasi pribadi mereka, termasuk data kesehatan dengan sensitivitas tinggi.

"Kita sudah punya seperangkat regulasi yang menjaga ekosistem AI meski tidak berhubungan langsung dengannya, seperti Undang-Undang ITE dan Undang-Undang Perlindungan Data Pribadi. Ini penting sekali karena kalau bicara soal AI kan makanannya data," Nezar menjelaskan.

Etika AI

Pemerintah juga menyiapkan peraturan mengenai Peta Jalan Nasional AI dan Etika AI guna mengarahkan pengembangan teknologi dan memastikan pemanfaatan AI dilakukan dengan memperhatikan etika dan pelindungan masyarakat.​​​​​​​