Studi: 50% Saran Medis dari Chatbot AI Menyesatkan Pengguna

SAN FRANCISCO – Menurut sebuah studi terbaru, sekitar setengah dari chatbot berbasis kecerdasan buatan atau Artificial Intelligence (AI) memberikan saran medis yang menyesatkan kepada pengguna, menyoroti risiko kesehatan dari teknologi yang semakin menjadi bagian integral dalam kehidupan sehari-hari.

Para peneliti dari Amerika Serikat, Kanada, dan Inggris telah mengevaluasi lima platform populer – ChatGPT, Gemini, Meta AI, Grok, dan DeepSeek – dengan mengajukan 10 pertanyaan kepada masing-masing platform yang mencakup lima kategori kesehatan.

Dari total tanggapan, sekitar 50 persen dianggap bermasalah, termasuk hampir 20 persen yang sangat bermasalah, menurut temuan yang dipublikasikan minggu ini di jurnal medis BMJ (British Medical Journal) Open.

Menurut penelitian tersebut, chatbot menunjukkan kinerja yang relatif lebih baik pada pertanyaan tertutup dan pertanyaan terkait vaksin dan kanker, dan lebih buruk pada pertanyaan terbuka dan di bidang seperti sel punca dan nutrisi.

Para peneliti mengatakan bahwa jawaban sering kali diberikan dengan percaya diri dan yakin, meskipun tidak ada chatbot yang menghasilkan daftar referensi yang lengkap dan akurat sebagai respons terhadap pertanyaan apa pun.

Hanya ada dua penolakan untuk menjawab pertanyaan, keduanya dari Meta AI.

Hasil penelitian ini menyoroti kekhawatiran yang semakin meningkat tentang bagaimana orang menggunakan platform AI generatif, yang tidak berlisensi untuk memberikan nasihat medis dan tidak memiliki kemampuan penilaian klinis untuk membuat diagnosis.

Pertumbuhan pesat chatbot AI telah menjadikannya alat populer bagi orang-orang yang mencari panduan tentang penyakit mereka, dan OpenAI menyatakan bahwa lebih dari 200 juta orang mengajukan pertanyaan kesehatan dan kebugaran kepada ChatGPT setiap minggu.

Platform tersebut mengumumkan pada bulan Januari alat kesehatan untuk pengguna umum dan klinisi, dan Anthropic mengatakan pada bulan yang sama produk Claude mereka meluncurkan penawaran perawatan kesehatan baru.

Para penulis studi BMJ Open mengatakan bahwa risiko utama dari penerapan chatbot tanpa edukasi dan pengawasan publik adalah bahwa chatbot dapat memperkuat informasi yang salah.

Temuan tersebut "menyoroti keterbatasan perilaku penting dan perlunya mengevaluasi kembali bagaimana chatbot AI digunakan dalam komunikasi kesehatan dan medis yang berinteraksi langsung dengan publik," tulis mereka.Sistem-sistem ini dapat menghasilkan “respons yang terdengar berwibawa tetapi berpotensi salah”, tulis mereka. SB/BLOOMBERG