Dilema Penggunaan AI di ICU, Rentan Picu Tindakan Medis yang Keliru

Ali Akbar Septiandri, UCL

Pasien yang dirawat di ruang instalasi rawat intensif (ICU), biasanya terhubung dengan belalai infus dan sejumlah alat medis. Penggunaan alat-alat medis, misalnya monitor tanda vital, bertujuan memantau tanda-tanda vital pasien, seperti detak jantung, tekanan darah, hingga saturasi (kadar oksigen dalam darah).

Alat-alat medis tersebut kaya akan data yang berguna untuk mendukung diagnosis—yang kini prosesnya banyak dibantu oleh teknologi akal imitasi (AI). Contohnya, teknologi AI dapat membantu pemantauan kondisi pasien pascabedah jantung, membaca dokumen klinis, memprediksi perkembangan kondisi pasien COVID-19, mengidentifikasi  tanda yang dapat diamati (fenotipe klinis) dari sepsis, hingga menentukan strategi optimal penanganan pasien.

Masalahnya, tidak semua model AI (program yang dilatih untuk mengenali pola) mumpuni dalam menghasilkan bantuan yang dibutuhkan dokter untuk mendiagnosis pasien. Apalagi sumber data yang akan diolah dokter sangat beragam, mulai dari hasil pembacaan alat medis di ICU, analisis sampel darah di laboratorium, hingga riwayat kesehatan si pasien.

Keragaman sumber data menyebabkan proses pengambilan keputusan medis menjadi lebih kompleks. Seiring meningkatnya kompleksitas kasus yang ditangani, hasil pembacaan AI pun makin mudah menjadi tidak transparan.

Kondisi ini dapat memperparah bias—yang disadari atau tidak—memengaruhi tindakan medis yang dilakukan dokter.

AI rentan memperparah bias tindakan medis

Dalam dunia medis, beberapa studi menyoroti sejumlah bias yang dapat memengaruhi keputusan dokter. Sebuah penelitian tahun 2019, misalnya, mengungkapkan bahwa pasien perempuan lebih berisiko mengalami pengurangan atau penghentian perawatan intensif dibandingkan laki-laki. Kecenderungan ini terjadi bahkan setelah  faktor lain, seperti usia lanjut maupun kondisi kritis pasien, turut dipertimbangkan.

Studi lainnya menemukan adanya ketidaksetaraan pelayanan kesehatan antara ras kulit hitam dengan kulit putih di Amerika Serikat (AS). Ketimpangan ini menyebabkan angka kematian pasien kulit hitam di ICU lebih tinggi dibandingkan kulit putih.

Bias dalam dunia medis disinyalir akan semakin parah jika dokter hanya mengandalkan model AI dalam mendiagnosis penyakit, tanpa menganalisis datanya menggunakan nalar. Terlebih ketika model AI mempelajari pola dari data yang bias akibat proses pengambilan sampel yang tidak optimal maupun ketimpangan sosial yang membatasi akses masyarakat terhadap fasilitas pelayanan kesehatan.

Fenomena tersebut layaknya mahasiswa yang mengerjakan tugas kuliah memakai ChatGPT, tanpa mengulas hasilnya secara kritis.

Model AI memang menjanjikan akurasi dan personalisasi yang lebih baik dalam membantu diagnosis. Namun, hasilnya diolah dari data berukuran besar yang sangat kompleks, sehingga tetap dibutuhkan analisis manusia sebelum mengambil tindakan medis.

Tanpa skeptisisme terhadap teknologi ini, dampaknya justru bisa fatal.