Kementerian Komdigi Ingatkan Risiko Penggunaan “AI” dalam Layanan Kesehatan

JAKARTA - Kementerian Komunikasi dan Digital (Komdigi) mengingatkan risiko penggunaan kecerdasan artifisial (AI) dalam layanan kesehatan. Kesalahan diagnosis atau rekomendasi AI dapat mengancam keselamatan pasien karena berkaitan langsung dengan keputusan medis.

Wakil Menteri Komdigi, Nezar Patria, menegaskan pemanfaatan AI harus memperhitungkan risiko selain mendorong inovasi dan efisiensi. Menurut dia, teknologi tersebut memerlukan mitigasi risiko ketika mulai membantu proses pengambilan keputusan.

Ia menjelaskan bahwa AI mulai digunakan untuk membantu tenaga medis mendiagnosis penyakit dan menentukan layanan kesehatan. Namun, kesalahan sistem dalam menghasilkan diagnosis atau rekomendasi dapat membawa konsekuensi serius bagi pasien.

Penggunaan AI dalam bidang kesehatan memiliki risiko tinggi karena keputusan medis menyangkut keselamatan manusia. Karena itu, pengembang dan pengguna teknologi perlu memperhatikan dampak yang mungkin muncul dari setiap keputusan.

“Penggunaan AI untuk mendiagnosis penyakit, baik oleh dokter dan agen AI dalam layanan medis, juga memiliki risiko tinggi. Di bidang kesehatan, yang dipertaruhkan adalah nyawa manusia,” ujar dia dikutip dari laman resmi Komdigi, Senin (2/11).

Selain risiko kesalahan diagnosis, Nezar menyoroti perlindungan data pribadi pasien dalam pemanfaatan AI. Pengelola teknologi perlu menjaga informasi sensitif agar tidak mengalami kebocoran atau penyalahgunaan.

Data menjadi elemen utama dalam pengembangan dan pengoperasian sistem kecerdasan artifisial. Oleh sebab itu, pengelolaannya harus memperhatikan hak masyarakat atas keamanan informasi pribadi.

Menurut dia, Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi sebagai salah satu instrumen perlindungan. Regulasi tersebut berperan menjaga keamanan data masyarakat, termasuk informasi kesehatan yang bersifat sensitif.

“Kita sudah punya seperangkat regulasi yang menjaga ekosistem AI meski tidak berhubungan langsung dengannya. Seperti UU ITE dan UU Perlindungan Data Pribadi,” ucap dia.

Di sisi lain, pemerintah menyiapkan Peta Jalan Nasional AI dan Etika AI untuk mengarahkan pengembangan teknologi. Kerangka tersebut diharapkan menjadi Peraturan Presiden sebagai pedoman pemanfaatan AI secara bertanggung jawab.

Ia mengatakan pemerintah perlu memetakan perkembangan AI secara menyeluruh sebelum menentukan pendekatan regulasi. Langkah tersebut bertujuan mengantisipasi risiko tanpa menghambat inovasi teknologi.

Menurut dia, pengaturan AI perlu memperhatikan karakteristik dan kebutuhan setiap sektor pengguna. Pendekatan tersebut penting karena penerapan teknologi dapat menimbulkan risiko yang berbeda dalam layanan kesehatan dan bidang lainnya.

“Yang kita butuhkan sekarang adalah mendorong inovasi. Pada saat yang sama, risiko-risiko yang muncul dari adopsi teknologi AI di setiap sektor juga harus diperhatikan,” ujar dia.

Komdigi berharap pengembangan AI berjalan seiring dengan penerapan tata kelola dan mitigasi risiko. Pemerintah ingin memastikan kemajuan teknologi tetap memberikan manfaat nyata sekaligus melindungi masyarakat. ils/I-1