Dikecam Gara-gara Deepfake Foto Bugil, Chatbot Grok Batasi Fitur Edit Gambar AI Hanya untuk Pengguna Berbayar

WASHINGTON - Chatbot AI Grok milik Elon Musk telah menonaktifkan fitur pembuatan gambar untuk pengguna non-berbayar setelah mendapat kecaman karena digunakan untuk membuat deepfake berbau seksual terhadap wanita dan anak-anak.

Musk diancam dengan denda, dan beberapa negara secara terbuka menentang alat yang memungkinkan pengguna mengubah gambar online guna menghilangkan busana subjek.

Menanggapi pengguna pada hari Jumat (9/1) di platform media sosial Musk, X, Grok memposting: "Pembuatan dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar. Anda dapat berlangganan untuk membuka fitur-fitur ini."

Perubahan ini berarti banyak pengguna tools tersebut tidak lagi dapat membuat atau mengedit gambar menggunakan AI. Pelanggan berbayar harus memberikan informasi kartu kredit dan detail pribadi mereka kepada platform tersebut.

Kantor Perdana Menteri Inggris Keir Starmer menyebut langkah membatasi akses hanya kepada pelanggan berbayar sebagai "penghinaan" bagi para korban dan "bukan solusi."

"Hal itu hanya mengubah fitur AI yang memungkinkan pembuatan gambar ilegal menjadi layanan premium," kata juru bicara Downing Street.

"Itu menghina para korban misogini dan kekerasan seksual." 

Badan eksekutif Uni Eropa, yang sebelumnya menyebut foto-foto perempuan dan anak-anak tanpa busana sebagai tindakan ilegal, mengatakan bahwa mereka telah "memperhatikan perubahan-perubahan terbaru."

Namun juru bicara urusan digital Uni Eropa, Thomas Regnier, mengatakan kepada wartawan, "ini tidak mengubah masalah mendasar kami, berlangganan berbayar atau tidak berbayar. Kami tidak ingin melihat gambar-gambar seperti itu. Sesederhana itu."

"Yang kami minta dari platform adalah memastikan bahwa desain mereka, bahwa sistem mereka tidak memungkinkan pembuatan konten ilegal semacam itu," tambahnya.

Komisi Eropa telah memerintahkan X untuk menyimpan semua dokumen dan data internal terkait Grok hingga akhir tahun 2026 sebagai tanggapan atas kegaduhan terkait foto telanjang tersebut.

Prancis, Malaysia, dan India juga mengkritik platform Musk terkait masalah ini. 

"Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal," tulis Musk di X pekan lalu sebagai tanggapan terhadap sebuah unggahan tentang gambar-gambar eksplisit tersebut.

Akun resmi "Keamanan" X kemudian menyatakan bahwa mereka menangani konten ilegal di X "dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah daerah dan penegak hukum jika diperlukan."