Google Gunakan AI untuk Menjawab Masalah Kesehatan, Anda Percaya?

Apakah Anda sakit kepala atau infeksi sinus? Seperti apa rasanya patah tulang karena stres? Haruskah khawatir dengan nyeri di dada Anda? Jika Anda mencari pertanyaan-pertanyaan itu di Google sekarang, jawabannya mungkin ditulis oleh AI atau artificial intelligence (kecerdasan buatan).

Bulan ini, Google meluncurkan fitur baru yang disebutIkhtisar AIyang menggunakan AI generatif, sejenis teknologi pembelajaran mesin yang dilatih berdasarkan informasi dari seluruh internet dan menghasilkan jawaban percakapan atas beberapa pertanyaan penelusuran dalam hitungan detik.

Dalam beberapa minggu sejak diluncurkan, pengguna telah menemukan beragam jawaban yang tidak akurat dan aneh pada berbagai topik. Namun jika menyangkut cara menjawab pertanyaan kesehatan, para ahli mengatakan risikonya sangat besar.

Teknologi ini dapat mengarahkan masyarakat pada kebiasaan yang lebih sehat atau membutuhkan perawatan medis, namun juga berpotensi memberikan informasi yang tidak akurat. AI terkadang bisa mengarang fakta. Dan jika jawaban-jawaban tersebut dibentuk oleh situs-situs yang tidak didasarkan pada sains, maka mereka mungkin memberikan saran yang bertentangan dengan pedoman medis atau menimbulkan risiko bagi kesehatan seseorang.

Sistem ini telah terbukti menghasilkan jawaban-jawaban buruk yang tampaknya didasarkan pada sumber-sumber yang cacat. Ketika ditanya "berapa banyak batu yang harus saya makan," misalnya, AI Review memberi tahu beberapa pengguna untuk makan setidaknya satu batu sehari untuk mendapatkan vitamin dan mineral. (Saran itu diambil dariThe Onion, sebuah situs satir.)

"Anda tidak bisa mempercayai semua yang Anda baca," kata Dr Karandeep Singh, kepala petugas AI kesehatan di UC San Diego Health. Dalam kesehatan, katanya, sumber informasi sangatlah penting.

Hema Budaraju, direktur senior manajemen produk Google yang membantu memimpin pekerjaan pada Ikhtisar AI, mengatakan bahwa penelusuran kesehatan memiliki "pagar tambahan", tetapi ia menolak menjelaskannya secara rinci. Pencarian yang dianggap berbahaya atau eksplisit, atau yang menunjukkan bahwa seseorang berada dalam situasi rentan, seperti melukai diri sendiri, tidak memicu ringkasan AI, katanya.

Google menolak untuk memberikan daftar rinci situs web yang mendukung informasi dalam Ikhtisar AI, namun mengatakan bahwa alat tersebut bekerja bersama denganGrafik Pengetahuan Google, sebuah sistem informasi yang sudah ada yang telah menarik miliaran fakta dari ratusan sumber.

Tanggapan pencarian baru menentukan beberapa sumber; untuk pertanyaan kesehatan, biasanya terdapat situs web seperti Mayo Clinic, WebMD, Organisasi Kesehatan Dunia (WHO), dan pusat penelitian ilmiah PubMed. Namun ini bukanlah daftar yang lengkap: Alat ini juga dapat diambil dari Wikipedia, postingan blog, Reddit, dan situs web e-commerce. Dan tidak memberi tahu pengguna fakta mana yang berasal dari sumber mana.

Dengan hasil pencarian standar, banyak pengguna dapat langsung membedakan antara situs web medis terkemuka dan perusahaan permen. Namun satu blok teks yang menggabungkan informasi dari berbagai sumber dapat menyebabkan kebingungan.

"Itupun jika orang-orang melihat sumbernya," kata Dr Seema Yasmin, direktur Stanford Health Communication Initiative, sambil menambahkan, "Saya tidak tahu apakah orang-orang mencarinya, atau apakah kita sudah benar-benar mengajari mereka cara Lihat." Dia mengatakan penelitiannya mengenai misinformasi telah membuatnya pesimistis terhadap minat rata-rata pengguna untuk melihat lebih dari sekadar jawaban cepat.

Mengenai keakuratan jawaban tentang coklat, Dr Dariush Mozaffarian, seorang ahli jantung dan profesor kedokteran di Universitas Tufts, mengatakan ada beberapa fakta yang sebagian besar benar dan merangkum penelitian mengenai manfaat coklat bagi kesehatan. Namun hal ini tidak membedakan antara bukti kuat yang diberikan oleh uji coba acak dan bukti lemah dari studi observasional, katanya, atau memberikan peringatan apa pun terhadap bukti tersebut.

Memang benar coklat mengandung antioksidan, kata Dr Mozaffarian. Namun klaim bahwa konsumsi coklat bisa membantu mencegah kehilangan ingatan? Hal ini belum terbukti dengan jelas, dan "perlu banyak peringatan," katanya. Mencantumkan klaim-klaim semacam itu secara bersebelahan memberikan kesan bahwa klaim-klaim tersebut lebih mapan daripada yang sebenarnya.

Jawabannya juga bisa berubah seiring berkembangnya AI itu sendiri, meskipun ilmu pengetahuan di balik jawaban yang diberikan tidak berubah.

Seorang juru bicara Google mengatakan dalam sebuah pernyataan bahwa perusahaan berupaya untuk menunjukkan penafian atas tanggapan yang diperlukan, termasuk catatan bahwa informasi tersebut tidak boleh dianggap sebagai nasihat medis.

Tidak jelas bagaimana tepatnya Ikhtisar AI mengevaluasi kekuatan bukti, atau apakah Ikhtisar AI mempertimbangkan temuan penelitian yang bertentangan, seperti apakahkopi baik untuk Anda. "Ilmu pengetahuan bukanlah sekumpulan fakta statis," kata Dr Yasmin. Dia dan para ahli lainnya juga mempertanyakan apakah alat tersebut akan memanfaatkan temuan ilmiah lama yang telah dibantah atau tidak menangkap pemahaman terkini tentang suatu masalah.

"Mampu mengambil keputusan penting-untuk membedakan kualitas sumber-adalah hal yang dilakukan manusia sepanjang waktu, hal yang dilakukan dokter," kata Dr Danielle Bitterman, dokter-ilmuwan kecerdasan buatan di Dana-Farber Cancer Institute dan Brigham and Rumah Sakit Wanita. "Mereka sedang menguraikan bukti."

Jika kita ingin alat seperti Ikhtisar AI memainkan peran tersebut, katanya, "kita perlu lebih memahami bagaimana alat tersebut menavigasi berbagai sumber dan bagaimana mereka menerapkan sudut pandang kritis untuk sampai pada suatu ringkasan," katanya.