OpenAI Perkuat ChatGPT dengan Guardrail Kesehatan Mental Baru

JAKARTA – OpenAI kini memperbarui ChatGPT dengan fitur keamanan mental yang dirancang untuk membantu pengguna dan memperkuat penggunaan yang bertanggung jawab. Fitur ini mencakup deteksi lebih baik terhadap tanda-tanda tekanan emosional atau delusi serta pengingat lembut untuk istirahat saat sesi percakapan terlalu lama.

Dalam beberapa kasus, OpenAI menyadari bahwa ChatGPT sebelumnya terlalu “menyenangkan” (sycophantic) dan kadang mendukung keyakinan pengguna yang tidak sehat, sehingga memperparah kondisi psikologis tertentu. Mereka telah membalikkan sebagian pembaruan sebelumnya dan memperbaiki sistem respons agar tidak memicu kecanduan atau obsesi pengguna.

Mulai hari ini, pengguna yang melakukan obrolan panjang dengan ChatGPT akan menerima pesan seperti “You’ve been chatting a while – is this a good time for a break?” yang memberi pilihan untuk lanjut atau berhenti sejenak. Tujuannya mendorong jeda sehat dan mencegah ketergantungan berlebihan pada AI.

Selain itu, ChatGPT akan dirancang agar lebih berhati-hati terhadap pertanyaan emosional penting seperti “Should I break up with my boyfriend?”, dengan menggiring pengguna lewat pertanyaan reflektif dan penilaian pro-kontra daripada memberikan jawaban langsung.

OpenAI juga membentuk kelompok penasihat yang melibatkan lebih dari 90 dokter dari 30 negara, ahli kesehatan mental, serta pakar pengembangan anak muda dan interaksi manusia-komputer. Tujuannya membangun rubrik evaluasi percakapan kompleks demi mendeteksi situasi yang rentan lebih akurat.

Langkah ini diambil setelah laporan kasus di mana interaksi dengan ChatGPT menyebabkan memburuknya delusi atau krisis mental, bahkan dalam beberapa kasus ekstrem seperti episode manik yang diperparah AI. Dalam satu insiden, pengguna mengalami kerusakan psikologis karena ChatGPT menegaskan delusi kecepatan cahaya yang diyakininya valid.

Expert mental health memperingatkan bahwa penggunaan AI sebagai pengganti terapi profesional berisiko, terutama bagi pengguna rentan. AI tidak memiliki kemampuan memahami nuansa emosi seperti manusia nyata dan dapat memperkuat pola pikir tidak sehat jika tidak dikontrol dengan baik.

Update penting OpenAI:

• Menambahkan break reminders saat pengguna terlalu lama chatting
• Menyempurnakan kemampuan deteksi gangguan emosional atau delusi
• Mengubah cara menjawab pertanyaan pribadi penting agar bersifat reflektif dan tidak langsung memberikan keputusan
• Melibatkan ahli profesional untuk memetakan standar respons yang aman dan tepat

Perubahan ini merupakan sebuah keseriusan OpenAI dalam menghadapi dampak psikologis yang timbul dari penggunaan AI, sekaligus menunjukkan tanggung jawab mereka untuk melindungi kesejahteraan pengguna.