Dilema Penggunaan AI di ICU, Rentan Picu Tindakan Medis yang Keliru

Doc: The Conversation/Shutterstock

Ket. Ilustrasi penggunaan AI di ICU.

Ali Akbar Septiandri, UCL

Pasien yang dirawat di ruang instalasi rawat intensif (ICU), biasanya terhubung dengan belalai infus dan sejumlah alat medis. Penggunaan alat-alat medis, misalnya monitor tanda vital, bertujuan memantau tanda-tanda vital pasien, seperti detak jantung, tekanan darah, hingga saturasi (kadar oksigen dalam darah).

Alat-alat medis tersebut kaya akan data yang berguna untuk mendukung diagnosis—yang kini prosesnya banyak dibantu oleh teknologi akal imitasi (AI). Contohnya, teknologi AI dapat membantu pemantauan kondisi pasien pascabedah jantung, membaca dokumen klinis, memprediksi perkembangan kondisi pasien COVID-19, mengidentifikasi  tanda yang dapat diamati (fenotipe klinis) dari sepsis, hingga menentukan strategi optimal penanganan pasien.

Masalahnya, tidak semua model AI (program yang dilatih untuk mengenali pola) mumpuni dalam menghasilkan bantuan yang dibutuhkan dokter untuk mendiagnosis pasien. Apalagi sumber data yang akan diolah dokter sangat beragam, mulai dari hasil pembacaan alat medis di ICU, analisis sampel darah di laboratorium, hingga riwayat kesehatan si pasien.

Keragaman sumber data menyebabkan proses pengambilan keputusan medis menjadi lebih kompleks. Seiring meningkatnya kompleksitas kasus yang ditangani, hasil pembacaan AI pun makin mudah menjadi tidak transparan.

Kondisi ini dapat memperparah bias—yang disadari atau tidak—memengaruhi tindakan medis yang dilakukan dokter.

AI rentan memperparah bias tindakan medis

Dalam dunia medis, beberapa studi menyoroti sejumlah bias yang dapat memengaruhi keputusan dokter. Sebuah penelitian tahun 2019, misalnya, mengungkapkan bahwa pasien perempuan lebih berisiko mengalami pengurangan atau penghentian perawatan intensif dibandingkan laki-laki. Kecenderungan ini terjadi bahkan setelah  faktor lain, seperti usia lanjut maupun kondisi kritis pasien, turut dipertimbangkan.

Studi lainnya menemukan adanya ketidaksetaraan pelayanan kesehatan antara ras kulit hitam dengan kulit putih di Amerika Serikat (AS). Ketimpangan ini menyebabkan angka kematian pasien kulit hitam di ICU lebih tinggi dibandingkan kulit putih.

Bias dalam dunia medis disinyalir akan semakin parah jika dokter hanya mengandalkan model AI dalam mendiagnosis penyakit, tanpa menganalisis datanya menggunakan nalar. Terlebih ketika model AI mempelajari pola dari data yang bias akibat proses pengambilan sampel yang tidak optimal maupun ketimpangan sosial yang membatasi akses masyarakat terhadap fasilitas pelayanan kesehatan.

Fenomena tersebut layaknya mahasiswa yang mengerjakan tugas kuliah memakai ChatGPT, tanpa mengulas hasilnya secara kritis.

Model AI memang menjanjikan akurasi dan personalisasi yang lebih baik dalam membantu diagnosis. Namun, hasilnya diolah dari data berukuran besar yang sangat kompleks, sehingga tetap dibutuhkan analisis manusia sebelum mengambil tindakan medis.

Tanpa skeptisisme terhadap teknologi ini, dampaknya justru bisa fatal.

Cegah bias penggunaan AI di dunia medis

Sayangnya, di lapangan, kerap ada dorongan untuk mengotomasi proses pengambilan keputusan tindakan medis dengan alasan efisiensi sumber daya perawatan intensif.

Misalnya, pada kasus pandemi COVID-19 lalu, besarnya tekanan terhadap penggunaan ICU mendorong otomasi proses pengambilan keputusan seperti alokasi ranjang pasien. Dalam kondisi genting semacam ini, kemungkinan untuk mengambil jalan pintas dengan mengandalkan model AI tanpa mengkritisi prosesnya jadi lebih besar. Padahal, sejumlah isu akses layanan kesehatan, seperti keterbatasan cakupan asuransi, jadwal kerja tenaga kesehatan yang kaku, hingga jauhnya jarak menuju fasilitas kesehatan terdekat disinyalir dapat memperparah bias dalam dunia medis.

Model AI yang sering mengambil keputusan berdasarkan bias yang ada, akan mempelajari pola tersebut sebagai hal yang lumrah, lantas menafsirkannya sebagai pengetahuan penting dalam proses pengambilan keputusan.

Oleh karena itu, dibutuhkan langkah-langkah pencegahan untuk menghindari bias akibat adopsi teknologi medis berbasis AI, di antaranya:

1. Edukasi AI untuk praktisi kesehatan

Praktisi kesehatan perlu diedukasi mengenai AI agar lebih berhati-hati terhadap potensi maupun keterbatasan teknologi yang sedang berkembang pesat ini.

Institusi pendidikan kesehatan sudah sepatutnya merombak kurikulum dan menjadikan AI sebagai salah satu materi pelajaran. Cara ini dapat membantu mengubah pola pikir praktisi kesehatan mengenai pemanfaatan AI yang perkembangannya sangat masif.

2. Mendorong inovasi AI yang lebih klinis

Praktisi kesehatan harus mendorong para pengembang AI untuk menghasilkan model yang analisis datanya dapat ditafsirkan secara klinis, sederhana, dan transparan.

Adapun pembuat kebijakan perlu mewajibkan para pengembang AI agar membuat model yang transparan, sebelum teknologinya diadopsi lebih luas.

3. Kolaborasi riset

Hal krusial lain yang kerap dilewatkan adalah terbatasnya keragaman data ICU yang tersedia untuk publik. Sebuah ulasan pada 2022, mengungkapkan bahwa data ICU yang tersedia di publik dan digunakan dalam banyak penelitian hanya bersumber dari empat kumpulan data (data set) berbeda yang semuanya berasal dari Eropa dan Amerika Serikat.

Karena itu, diperlukan kolaborasi riset skala global dalam berbagi data ICU. Seperti yang telah disebutkan sebelumnya, model dari data yang bias hanya akan melanggengkan bias tersebut. Sebagai gambaran, model AI berisiko berkurang drastis kinerjanya ketika digunakan di rumah sakit yang berbeda dalam sebuah negara. Dalam hal ini, penggunaan data lokal dari negara lain sangat diperlukan untuk mengurangi keparahan bias tersebut.

Komunitas medis Tanah Air dapat mengadaptasi komunitas linguistik komputasional yang rutin menghelat konferensi Language Resources and Evaluation (LREC) setiap dua tahun sekali. Forum ini bertujuan mempublikasikan data dan hasil riset dari berbagai wilayah di dunia.

Sementara, komunitas medis global perlu mengadakan konferensi maupun membuat jurnal yang berfokus mengomunikasikan data dan riset medis dari negara-negara yang kurang dikenal di dunia akademik global.

4. Regulasi penggunaan AI

Tidak cukup sampai di situ, pemerintah perlu menerapkan regulasi mengenai etika penggunaan AI di dunia medis. WHO dan Uni Eropa, misalnya, telah merumuskan regulasi guna memastikan dan mengevaluasi kinerja, keamanan, serta akurasi model AI di bidang kesehatan agar mudah digunakan, bebas dari bias dan diskriminasi.

Memastikan perawatan intensif yang bebas bias memerlukan upaya menyeluruh yang melibatkan beragam pemangku kepentingan, termasuk dokter, tenaga kesehatan, akademisi, pengembang teknologi, dan pemerintah.

Komitmen dari seluruh pemangku kepentingan sangat diperlukan untuk memulai kolaborasi ini. Langkah ini bisa dimulai dengan memahami, mengakui, dan mengevaluasi eksistensi bias tak kasat mata dalam pelayanan kesehatan.

Ali Akbar Septiandri, PhD Candidate in Statistical Science, UCL

Artikel ini terbit pertama kali di The Conversation. Baca artikel sumber.