Banyak Disalahgunakan untuk Konten Seksual, Komdigi Ancam Blokir Grok AI di X

JAKARTA - Kementerian Komunikasi dan Digital (Kemkomdigi) tengah mendalami dugaan penyalahgunaan fitur kecerdasan buatan Grok AI yang terintegrasi di platform X. Teknologi tersebut diduga dimanfaatkan untuk membuat dan menyebarkan konten asusila, termasuk manipulasi foto pribadi atau deepfake sensitif tanpa persetujuan pemilik gambar.

Kemkomdigi menegaskan tidak menutup kemungkinan menjatuhkan sanksi administratif hingga pemutusan akses terhadap layanan Grok AI maupun platform X apabila ditemukan pelanggaran hukum atau sikap tidak kooperatif dari penyelenggara sistem elektronik terkait.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menjelaskan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang jelas dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia. Kondisi ini dinilai berpotensi melanggar hak privasi serta hak atas citra diri seseorang.

Menurut Sabar, manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan. Praktik tersebut juga dianggap sebagai bentuk perampasan kendali individu atas identitas visualnya, yang dapat berdampak pada kerugian psikologis, sosial, hingga reputasi korban.

Kemkomdigi saat ini berkoordinasi dengan berbagai penyelenggara sistem elektronik untuk memastikan adanya mekanisme perlindungan yang efektif. Upaya tersebut meliputi penguatan sistem moderasi konten, pencegahan pembuatan deepfake bermuatan seksual, serta penyediaan prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.

“Setiap penyelenggara sistem elektronik wajib memastikan teknologi yang disediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, atau perusakan martabat manusia,” tegas Sabar.

Kemkomdigi juga mengingatkan bahwa kepatuhan terhadap peraturan perundang-undangan Indonesia berlaku bagi seluruh platform digital yang beroperasi di Tanah Air. Jika ketidakpatuhan atau sikap tidak kooperatif terbukti, pemerintah berwenang menjatuhkan sanksi hingga pemblokiran akses layanan Grok AI dan platform X.