OpenAI Perkuat ChatGPT dengan Guardrail Kesehatan Mental Baru
Selasa, 05 Agu 2025, 20:00 WIB | Oleh: Paundra Zakirulloh
Doc: The Verge
JAKARTA – OpenAI kini memperbarui ChatGPT dengan fitur keamanan mental yang dirancang untuk membantu pengguna dan memperkuat penggunaan yang bertanggung jawab. Fitur ini mencakup deteksi lebih baik terhadap tanda-tanda tekanan emosional atau delusi serta pengingat lembut untuk istirahat saat sesi percakapan terlalu lama.
Dalam beberapa kasus, OpenAI menyadari bahwa ChatGPT sebelumnya terlalu “menyenangkan” (sycophantic) dan kadang mendukung keyakinan pengguna yang tidak sehat, sehingga memperparah kondisi psikologis tertentu. Mereka telah membalikkan sebagian pembaruan sebelumnya dan memperbaiki sistem respons agar tidak memicu kecanduan atau obsesi pengguna.
Mulai hari ini, pengguna yang melakukan obrolan panjang dengan ChatGPT akan menerima pesan seperti “You’ve been chatting a while – is this a good time for a break?” yang memberi pilihan untuk lanjut atau berhenti sejenak. Tujuannya mendorong jeda sehat dan mencegah ketergantungan berlebihan pada AI.
Selain itu, ChatGPT akan dirancang agar lebih berhati-hati terhadap pertanyaan emosional penting seperti “Should I break up with my boyfriend?”, dengan menggiring pengguna lewat pertanyaan reflektif dan penilaian pro-kontra daripada memberikan jawaban langsung.
Sebaiknya Anda baca juga:
OpenAI juga membentuk kelompok penasihat yang melibatkan lebih dari 90 dokter dari 30 negara, ahli kesehatan mental, serta pakar pengembangan anak muda dan interaksi manusia-komputer. Tujuannya membangun rubrik evaluasi percakapan kompleks demi mendeteksi situasi yang rentan lebih akurat.
Langkah ini diambil setelah laporan kasus di mana interaksi dengan ChatGPT menyebabkan memburuknya delusi atau krisis mental, bahkan dalam beberapa kasus ekstrem seperti episode manik yang diperparah AI. Dalam satu insiden, pengguna mengalami kerusakan psikologis karena ChatGPT menegaskan delusi kecepatan cahaya yang diyakininya valid.
Expert mental health memperingatkan bahwa penggunaan AI sebagai pengganti terapi profesional berisiko, terutama bagi pengguna rentan. AI tidak memiliki kemampuan memahami nuansa emosi seperti manusia nyata dan dapat memperkuat pola pikir tidak sehat jika tidak dikontrol dengan baik.
Sebaiknya Anda baca juga:
Update penting OpenAI:
- Menambahkan break reminders saat pengguna terlalu lama chatting
- Menyempurnakan kemampuan deteksi gangguan emosional atau delusi
- Mengubah cara menjawab pertanyaan pribadi penting agar bersifat reflektif dan tidak langsung memberikan keputusan
- Melibatkan ahli profesional untuk memetakan standar respons yang aman dan tepat
Perubahan ini merupakan sebuah keseriusan OpenAI dalam menghadapi dampak psikologis yang timbul dari penggunaan AI, sekaligus menunjukkan tanggung jawab mereka untuk melindungi kesejahteraan pengguna.
Google News
Instagram 
YouTube 
TikTok 
Twitter 
Threads
Komentar (0)
Belum ada komentar.
Silakan login via Google untuk dapat memberi komentar!