Delapan Negara Bagian AS Gugat ChatGPT Dianggap Picu Perilaku Berbahaya

SAN FRANCISCO – OpenAI menghadapi tekanan hukum yang semakin besar di Amerika Serikat. Delapan negara bagian menggugat perusahaan pengembang ChatGPT tersebut atas dugaan kegagalan melindungi pengguna, terutama anak-anak dan remaja, dari risiko percakapan kecerdasan buatan (AI) yang dapat mendorong perilaku berbahaya.

Dari Al Jazeera, gugatan yang diajukan secara terkoordinasi itu menuduh ChatGPT memperkuat delusi, memberikan saran berbahaya, hingga membantu pengguna merencanakan tindakan kekerasan dan menyakiti diri sendiri. Kasus ini menambah daftar persoalan hukum yang membayangi OpenAI di tengah pesatnya perkembangan industri AI.

Delapan negara bagian yang mengajukan gugatan tersebut adalah Iowa, Kansas, Arizona, Arkansas, Idaho, Montana, Nebraska, dan Virginia Barat. Para jaksa agung negara bagian itu menilai OpenAI belum memberikan perlindungan memadai dalam percakapan sensitif yang melibatkan kesehatan mental, bunuh diri, dan ancaman kekerasan.

Jaksa Agung Iowa, Brenna Bird, bahkan menuduh perusahaan tersebut menyesatkan masyarakat mengenai keamanan produknya.

“OpenAI menyakiti anak-anak dan mereka berbohong kepada warga Iowa,” kata Bird.

Ia juga menuding ChatGPT memberikan nasihat medis berbahaya, mendorong tindakan yang merugikan orang lain, serta membimbing pengguna untuk bunuh diri dengan membangun hubungan yang menyerupai pertemanan.

Sementara itu, Jaksa Agung Virginia Barat, JB McCuskey, menyoroti lemahnya pengamanan dalam percakapan yang berkaitan dengan penembakan di sekolah dan tindakan menyakiti diri sendiri.

“Kita harus melakukan semua yang kita bisa untuk melindungi anak-anak,” ujarnya.

Dikaitkan dengan Kasus Penembakan

Gugatan terhadap OpenAI juga menyoroti dugaan penggunaan ChatGPT dalam mempersiapkan aksi kekerasan. Salah satu kasus yang disebut adalah penembakan di Florida State University, Tallahassee, pada April 2025.

Dalam dokumen gugatan yang diajukan Florida sebelumnya, pelaku penembakan, Phoenix Ikner, disebut berkonsultasi dengan ChatGPT mengenai jenis senjata dan amunisi yang akan digunakan serta waktu ketika kampus diperkirakan ramai.

Penembakan tersebut menewaskan dua orang dewasa dan melukai lima lainnya. Dugaan keterkaitan penggunaan chatbot dengan peristiwa itu menjadi bagian dari perdebatan mengenai sejauh mana perusahaan AI harus bertanggung jawab atas penggunaan produknya.

Para penggugat menilai ChatGPT dirancang untuk membuat pengguna merasa nyaman dan terus berinteraksi, sehingga berpotensi membangun kepercayaan yang berlebihan terhadap jawaban yang diberikan sistem.

Mereka juga menuduh OpenAI melanggar undang-undang perlindungan konsumen karena dianggap tidak menjelaskan risiko produknya secara memadai.

Melalui gugatan tersebut, para jaksa agung meminta pengadilan memerintahkan perubahan substansial terhadap cara kerja ChatGPT. Mereka juga menginginkan pembatasan pengembangan model AI yang dapat meningkatkan kemampuannya sendiri sampai perusahaan mampu memastikan kesesuaiannya dengan nilai-nilai kemanusiaan.

Jaksa Agung Nebraska, Mike Hilgers, mengatakan tuntutan itu bertujuan memastikan OpenAI mematuhi ketentuan hukum yang berlaku bagi perusahaan lain di negara bagiannya.