Regulator AS Investigasi OpenAI terkait Konten Berbahaya

WASHINGTON - Komisi Perdagangan Federal AS (FTC) tengah menyelidiki OpenAI untuk menentukan apakah aplikasi ChatGPT merugikan konsumen dengan informasi palsu dan apakah teknologinya salah menangani data pengguna.

OpenAI yang didukung Microsoft menghadapi penyelidikan dengan pertanyaan setebal 20 halaman. Perusahaan tersebut diminta menjelaskan insiden di mana pengguna diremehkan secara salah, dan untuk menginformasikan upaya perusahaan agar hal ini tidak terjadi lagi.

Investigasi yang dilakukan regulator AS pertama kali dilaporkan oleh The Washington Post.

Rilis ChatGPT OpenAI November lalu mengejutkan dunia karena menampilkan kekuatan model bahasa besar (atau LLM), suatu bentuk kecerdasan buatan yang dikenal sebagai AI generatif yang dapat menghasilkan konten mirip manusia hanya dalam hitungan detik.

Di tengah kehebatan kapasitas teknologinya, muncul laporan bahwa model tersebut juga dapat menghasilkan konten yang menyinggung, salah, atau aneh, terkadang "halusinasi".

Ketua FTC Lina Khan berpidato di sidang komite kongres pada Rabu (12/7), meskipun tidak menyebutkan penyelidikan tersebut, dia mengatakan kepada anggota parlemen bahwa agensinya mengkhawatirkan keluaran ChatGPT yang berpotensi mencemarkan nama baik.

"Kami telah mendengar tentang laporan di mana informasi sensitif orang muncul sebagai tanggapan atas pertanyaan dari orang lain," kata Khan.

"Kami telah mendengar tentang pencemaran nama baik, pernyataan fitnah, hal-hal yang tidak benar yang muncul. Itulah jenis penipuan dan penipuan yang kami khawatirkan," tambahnya.

Investigasi FTC terutama berfokus pada bagaimana aspek ini dapat membahayakan pengguna, menurut kuesioner, tetapi juga menyelidiki penggunaan data pribadi OpenAI untuk membangun model terdepan di dunia.

GPT-4 adalah teknologi dasar di balik ChatGPT serta sejumlah program lain dari perusahaan yang membayar kepada OpenAI untuk mengakses modelnya untuk penggunaan mereka sendiri.

CEO OpenAI Sam Altman mengatakan dalam sebuah cuitan, dia menyesali berita investigasi yang bocor ke pers, yang "tidak membangun kepercayaan."

Dia menambahkan "tentu saja" OpenAI akan bekerja dengan FTC dan "sangat penting bagi kami bahwa teknologi kami aman dan pro-konsumen, dan kami yakin kami mematuhi hukum."

Penyelidikan FTC tidak serta merta membawa tindakan lebih lanjut dan regulator dapat menutup kasus tersebut jika puas dengan jawaban perusahaan.

Jika FTC menganggap praktik tersebut ilegal atau tidak aman, FTC akan menuntut tindakan perbaikan dan kemungkinan membuat gugatan.

OpenAI dan FTC tidak menanggapi permintaan komentar.