Dilema Penggunaan AI di ICU, Rentan Picu Tindakan Medis yang Keliru

Cegah bias penggunaan AI di dunia medis

Sayangnya, di lapangan, kerap ada dorongan untuk mengotomasi proses pengambilan keputusan tindakan medis dengan alasan efisiensi sumber daya perawatan intensif.

Misalnya, pada kasus pandemi COVID-19 lalu, besarnya tekanan terhadap penggunaan ICU mendorong otomasi proses pengambilan keputusan seperti alokasi ranjang pasien. Dalam kondisi genting semacam ini, kemungkinan untuk mengambil jalan pintas dengan mengandalkan model AI tanpa mengkritisi prosesnya jadi lebih besar. Padahal, sejumlah isu akses layanan kesehatan, seperti keterbatasan cakupan asuransi, jadwal kerja tenaga kesehatan yang kaku, hingga jauhnya jarak menuju fasilitas kesehatan terdekat disinyalir dapat memperparah bias dalam dunia medis.

Model AI yang sering mengambil keputusan berdasarkan bias yang ada, akan mempelajari pola tersebut sebagai hal yang lumrah, lantas menafsirkannya sebagai pengetahuan penting dalam proses pengambilan keputusan.

Oleh karena itu, dibutuhkan langkah-langkah pencegahan untuk menghindari bias akibat adopsi teknologi medis berbasis AI, di antaranya:

1. Edukasi AI untuk praktisi kesehatan

Praktisi kesehatan perlu diedukasi mengenai AI agar lebih berhati-hati terhadap potensi maupun keterbatasan teknologi yang sedang berkembang pesat ini.

Institusi pendidikan kesehatan sudah sepatutnya merombak kurikulum dan menjadikan AI sebagai salah satu materi pelajaran. Cara ini dapat membantu mengubah pola pikir praktisi kesehatan mengenai pemanfaatan AI yang perkembangannya sangat masif.

2. Mendorong inovasi AI yang lebih klinis

Praktisi kesehatan harus mendorong para pengembang AI untuk menghasilkan model yang analisis datanya dapat ditafsirkan secara klinis, sederhana, dan transparan.

Adapun pembuat kebijakan perlu mewajibkan para pengembang AI agar membuat model yang transparan, sebelum teknologinya diadopsi lebih luas.

3. Kolaborasi riset

Hal krusial lain yang kerap dilewatkan adalah terbatasnya keragaman data ICU yang tersedia untuk publik. Sebuah ulasan pada 2022, mengungkapkan bahwa data ICU yang tersedia di publik dan digunakan dalam banyak penelitian hanya bersumber dari empat kumpulan data (data set) berbeda yang semuanya berasal dari Eropa dan Amerika Serikat.