Delapan Negara Bagian AS Gugat ChatGPT Dianggap Picu Perilaku Berbahaya

SAN FRANCISCO – OpenAI menghadapi tekanan hukum yang semakin besar di Amerika Serikat. Delapan negara bagian menggugat perusahaan pengembang ChatGPT tersebut atas dugaan kegagalan melindungi pengguna, terutama anak-anak dan remaja, dari risiko percakapan kecerdasan buatan (AI) yang dapat mendorong perilaku berbahaya.

Dari Al Jazeera, gugatan yang diajukan secara terkoordinasi itu menuduh ChatGPT memperkuat delusi, memberikan saran berbahaya, hingga membantu pengguna merencanakan tindakan kekerasan dan menyakiti diri sendiri. Kasus ini menambah daftar persoalan hukum yang membayangi OpenAI di tengah pesatnya perkembangan industri AI.

Delapan negara bagian yang mengajukan gugatan tersebut adalah Iowa, Kansas, Arizona, Arkansas, Idaho, Montana, Nebraska, dan Virginia Barat. Para jaksa agung negara bagian itu menilai OpenAI belum memberikan perlindungan memadai dalam percakapan sensitif yang melibatkan kesehatan mental, bunuh diri, dan ancaman kekerasan.

Jaksa Agung Iowa, Brenna Bird, bahkan menuduh perusahaan tersebut menyesatkan masyarakat mengenai keamanan produknya.

“OpenAI menyakiti anak-anak dan mereka berbohong kepada warga Iowa,” kata Bird.

Ia juga menuding ChatGPT memberikan nasihat medis berbahaya, mendorong tindakan yang merugikan orang lain, serta membimbing pengguna untuk bunuh diri dengan membangun hubungan yang menyerupai pertemanan.

Sementara itu, Jaksa Agung Virginia Barat, JB McCuskey, menyoroti lemahnya pengamanan dalam percakapan yang berkaitan dengan penembakan di sekolah dan tindakan menyakiti diri sendiri.

“Kita harus melakukan semua yang kita bisa untuk melindungi anak-anak,” ujarnya.

Dikaitkan dengan Kasus Penembakan

Gugatan terhadap OpenAI juga menyoroti dugaan penggunaan ChatGPT dalam mempersiapkan aksi kekerasan. Salah satu kasus yang disebut adalah penembakan di Florida State University, Tallahassee, pada April 2025.

Dalam dokumen gugatan yang diajukan Florida sebelumnya, pelaku penembakan, Phoenix Ikner, disebut berkonsultasi dengan ChatGPT mengenai jenis senjata dan amunisi yang akan digunakan serta waktu ketika kampus diperkirakan ramai.

Penembakan tersebut menewaskan dua orang dewasa dan melukai lima lainnya. Dugaan keterkaitan penggunaan chatbot dengan peristiwa itu menjadi bagian dari perdebatan mengenai sejauh mana perusahaan AI harus bertanggung jawab atas penggunaan produknya.

Para penggugat menilai ChatGPT dirancang untuk membuat pengguna merasa nyaman dan terus berinteraksi, sehingga berpotensi membangun kepercayaan yang berlebihan terhadap jawaban yang diberikan sistem.

Mereka juga menuduh OpenAI melanggar undang-undang perlindungan konsumen karena dianggap tidak menjelaskan risiko produknya secara memadai.

Melalui gugatan tersebut, para jaksa agung meminta pengadilan memerintahkan perubahan substansial terhadap cara kerja ChatGPT. Mereka juga menginginkan pembatasan pengembangan model AI yang dapat meningkatkan kemampuannya sendiri sampai perusahaan mampu memastikan kesesuaiannya dengan nilai-nilai kemanusiaan.

Jaksa Agung Nebraska, Mike Hilgers, mengatakan tuntutan itu bertujuan memastikan OpenAI mematuhi ketentuan hukum yang berlaku bagi perusahaan lain di negara bagiannya.

OpenAI Klaim Telah Memperkuat Pengamanan

Menanggapi gugatan tersebut, OpenAI menyatakan telah menerapkan perlindungan khusus berdasarkan usia pengguna, termasuk pengamanan yang dirancang untuk mengurangi risiko bagi anak-anak dan remaja.

Juru bicara OpenAI, Drew Pusateri, mengatakan perusahaan terus bekerja sama dengan para ahli untuk memperkuat sistem perlindungan, termasuk melalui kontrol orang tua, pengingat untuk beristirahat, serta pengamanan model yang disesuaikan dengan usia pengguna.

“Meskipun tidak ada sistem yang sempurna, kami akan terus bekerja sama dengan para ahli untuk memberikan informasi bagi pekerjaan kami dan membangun pengamanan tambahan,” kata Pusateri.

Ia menambahkan, OpenAI ingin mendorong kebijakan AI yang praktis dan berlaku bagi seluruh industri, bukan hanya satu perusahaan.

Deretan Gugatan Lain Membayangi OpenAI

Selain gugatan dari delapan negara bagian tersebut, OpenAI juga menghadapi berbagai tuntutan hukum dari individu dan keluarga korban yang menilai ChatGPT memiliki keterkaitan dengan tindakan kekerasan.

Pada September 2026, Provinsi British Columbia, Kanada, menggugat OpenAI terkait penembakan di Tumbler Ridge yang menewaskan delapan orang, termasuk ibu dan saudara tiri pelaku, sebelum pelaku mengakhiri hidupnya sendiri.

Gugatan itu menuduh perusahaan gagal memberi tahu pihak berwenang mengenai interaksi pengguna yang dinilai mengkhawatirkan. Keluarga korban juga mengajukan puluhan gugatan dengan klaim bahwa ChatGPT berperan dalam tragedi tersebut.

OpenAI menyatakan akun yang dikaitkan dengan pelaku telah ditandai karena penyalahgunaan dan kemudian dinonaktifkan. Namun, perusahaan mengaku tidak meneruskan informasi tersebut kepada polisi karena aktivitas yang terdeteksi saat itu dinilai belum memenuhi ambang batas untuk dilaporkan sebagai ancaman kekerasan yang kredibel dan segera terjadi.

Di sisi lain, gugatan terpisah yang diajukan seorang ibu di California menyoroti persoalan privasi anak. Ia menuduh OpenAI mengambil keuntungan dari informasi pribadi yang dibagikan anak di bawah umur melalui ChatGPT.

Berbagai perkara tersebut memperluas perdebatan mengenai tanggung jawab perusahaan teknologi terhadap dampak produk AI. Persoalannya bukan hanya bagaimana chatbot menjawab pertanyaan, tetapi juga bagaimana perusahaan mengidentifikasi ancaman, melindungi pengguna rentan, menjaga privasi, dan menentukan kapan informasi mengenai potensi kekerasan harus diteruskan kepada pihak berwenang.

Rangkaian gugatan ini pun menjadi ujian bagi industri AI dalam menyeimbangkan inovasi teknologi dengan keselamatan pengguna dan kewajiban hukum perusahaan.