X Umumkan Langkah Cegah Grok Edit Gambar Porno Betulan Usai Dikecam Dunia

SAN FRANCISCO - Platform X milik Elon Musk pada hari Rabu (14/1) mengumumkan langkah-langkah untuk mencegah chatbot AI-nya, Grok, membuka pakaian orang sungguhan, menyusul reaksi global atas pembuatan gambar-gambar seksualisasi perempuan dan anak-anak.

X mengatakan akan "memblokir kemampuan" semua pengguna Grok dan X untuk membuat gambar orang dalam "bikini, pakaian dalam, dan pakaian serupa" di yurisdiksi tempat tindakan tersebut dianggap ilegal.

"Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang sungguhan dalam pakaian terbuka seperti bikini," kata tim keamanan X dalam sebuah pernyataan.

"Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar."

Pernyataan ini muncul beberapa jam setelah jaksa agung California meluncurkan penyelidikan terhadap xAI milik Musk -- Grok -- atas pembuatan "materi seksual eksplisit tanpa persetujuan" dalam beberapa minggu terakhir.

Tekanan internasional telah meningkat terhadap xAI untuk mengendalikan Grok setelah fitur yang disebut "Spicy Mode" memungkinkan pengguna untuk membuat deepfake seksualisasi perempuan dan anak-anak menggunakan perintah teks sederhana seperti "pakaikan dia bikini" atau "lepaskan pakaiannya."

Pada hari Sabtu, Indonesia menjadi negara pertama yang memblokir akses ke Grok sepenuhnya, diikuti oleh negara tetangga Malaysia pada hari Minggu.

India mengatakan pada hari Minggu bahwa X telah menghapus ribuan unggahan dan ratusan akun pengguna sebagai tanggapan atas keluhan mereka.

Regulator media Inggris, Ofcom, mengatakan pada hari Senin, mereka membuka penyelidikan untuk mengetahui apakah X gagal mematuhi hukum Inggris terkait gambar-gambar seksual tersebut.

Dan komisioner anak-anak Prancis, Sarah El Hairy, mengatakan pada hari Selasa, ia telah merujuk gambar-gambar yang dihasilkan Grok kepada jaksa Prancis, regulator media Arcom, dan Uni Eropa.