WHO Mengeluarkan Prinsip-prinsip Etika dalam AI kesehatan

Organisasi Kesehatan Dunia merilis dokumen panduan yang menguraikan enam prinsip utama untuk penggunaan etis kecerdasan buatan dalam kesehatan. Dua puluh ahli menghabiskan dua tahun mengembangkan panduan, yang menandai laporan konsensus pertama tentang etika AI dalam pengaturan perawatan kesehatan.

Melansir laman Theverge, Laporan tersebut menyoroti kinerja AI kesehatan, dan potensinya untuk membantu dokter merawat pasien terutama di daerah yang kekurangan sumber daya.

Tetapi juga menekankan bahwa teknologi bukanlah perbaikan cepat untuk tantangan kesehatan, terutama di negara-negara berpenghasilan rendah dan menengah, dan bahwa pemerintah dan regulator harus hati-hati meneliti di mana dan bagaimana AI digunakan dalam kesehatan.

WHO berharap keenam prinsip tersebut dapat menjadi dasar bagaimana pemerintah, pengembang, dan regulator melakukan pendekatan terhadap teknologi tersebut. Enam prinsip yang dikemukakan oleh para ahlinya adalah: melindungi otonomi, mempromosikan keselamatan dan kesejahteraan manusia, memastikan transparansi, mendorong akuntabilitas, memastikan kesetaraan, dan mempromosikan alat yang responsif dan berkelanjutan.

Ada lusinan cara potensial AI dapat digunakan dalam perawatan kesehatan. Ada aplikasi dalam pengembangan yang menggunakan AI untuk menyaring gambar medis seperti mammogram, alat yang memindai catatan kesehatan pasien untuk memprediksi apakah mereka mungkin lebih sakit, perangkat yang membantu orang memantau kesehatan mereka sendiri, dan sistem yang membantu melacak wabah penyakit.

Di daerah di mana orang tidak memiliki akses ke dokter spesialis, alat dapat membantu mengevaluasi gejala. Tetapi ketika mereka tidak dikembangkan dan diterapkan dengan hati-hati, mereka bisa paling banter tidak memenuhi janji mereka. Paling buruk, mereka dapat menyebabkan kerusakan.

Beberapa jebakan terlihat jelas selama setahun terakhir. Dalam perjuangan melawan pandemi COVID-19, institusi kesehatan dan pemerintah beralih ke alat AI untuk mencari solusi. Namun, banyak dari alat itu memiliki beberapa fitur yang diperingatkan oleh laporan WHO.

Sebagian besar program AI yang bertujuan untuk mendeteksi COVID-19 berdasarkan pemindaian dada didasarkan pada data yang buruk dan akhirnya tidak berguna. Rumah sakit di Amerika Serikat menggunakan algoritme yang dirancang untuk memprediksi pasien COVID-19 mana yang mungkin memerlukan perawatan intensif sebelum program diuji .

Laporan tersebut juga mengakui bahwa banyak alat AI dikembangkan oleh perusahaan teknologi swasta besar (seperti Google dan perusahaan China Tencent) atau oleh kemitraan antara sektor publik dan swasta.

Perusahaan-perusahaan tersebut memiliki sumber daya dan data untuk membangun alat ini, tetapi mungkin tidak memiliki insentif untuk mengadopsi kerangka kerja etis yang diusulkan untuk produk mereka sendiri. Fokus mereka mungkin ke arah keuntungan, bukan kepentingan publik.

Sementara perusahaan-perusahaan ini mungkin menawarkan pendekatan inovatif, ada kekhawatiran bahwa mereka pada akhirnya mungkin menggunakan terlalu banyak kekuasaan dalam kaitannya dengan pemerintah, penyedia dan pasien.

Teknologi AI dalam perawatan kesehatan masih baru, dan banyak pemerintah, regulator, dan sistem kesehatan masih mencari cara untuk mengevaluasi dan mengelolanya. Menjadi bijaksana dan terukur dalam pendekatan akan membantu menghindari potensi bahaya, kata laporan WHO.

Daya tarik solusi teknologi dan janji teknologi dapat menyebabkan penilaian yang berlebihan dari manfaat dan mengabaikan tantangan dan masalah yang mungkin diperkenalkan oleh teknologi baru seperti AI.

Berikut adalah rincian dari enam prinsip etika dalam pedoman WHO dan mengapa itu penting:

• Lindungi otonomi: Manusia harus memiliki pengawasan dan keputusan akhir atas semua keputusan kesehatan, keputusan tersebut tidak boleh dibuat sepenuhnya oleh mesin, AI tidak boleh digunakan untuk memandu perawatan medis.
• Mempromosikan keselamatan manusia: Pengembang harus terus memantau alat AI apa pun untuk memastikan mereka berfungsi sebagaimana mestinya dan tidak menyebabkan kerusakan.
• Pastikan transparansi: Pengembang harus mempublikasikan informasi tentang desain alat AI. WHO ingin melihat transparansi yang cukup sehingga mereka dapat sepenuhnya diaudit dan dipahami oleh pengguna dan regulator.
• Menumbuhkan akuntabilitas : Ketika ada yang tidak beres dengan teknologi AI seperti keputusan yang dibuat oleh alat menyebabkan kerugian pasien harus ada mekanisme yang menentukan siapa yang bertanggung jawab (seperti produsen dan pengguna klinis).
• Pastikan kesetaraan: Itu berarti memastikan alat tersedia dalam berbagai bahasa, bahwa mereka dilatih pada kumpulan data yang beragam. Dalam beberapa tahun terakhir, pengawasan ketat terhadap algoritme kesehatan umum telah menemukan bahwa beberapa di antaranya memiliki bias rasial .
• Mempromosikan AI yang berkelanjutan: Pengembang harus dapat memperbarui alat mereka secara teratur, dan institusi harus memiliki cara untuk menyesuaikan jika alat tampaknya tidak efektif. Institusi atau perusahaan juga seharusnya hanya memperkenalkan alat yang dapat diperbaiki, bahkan dalam sistem kesehatan yang kekurangan sumber daya.