Banyak Disalahgunakan untuk Konten Seksual, Komdigi Ancam Blokir Grok AI di X
📅 Rabu, 07 Jan 2026, 16:45 WIB | Oleh: Muhammad Daniel Ramadhan
Doc: Al Jazeera
JAKARTA - Kementerian Komunikasi dan Digital (Kemkomdigi) tengah mendalami dugaan penyalahgunaan fitur kecerdasan buatan Grok AI yang terintegrasi di platform X. Teknologi tersebut diduga dimanfaatkan untuk membuat dan menyebarkan konten asusila, termasuk manipulasi foto pribadi atau deepfake sensitif tanpa persetujuan pemilik gambar.
Kemkomdigi menegaskan tidak menutup kemungkinan menjatuhkan sanksi administratif hingga pemutusan akses terhadap layanan Grok AI maupun platform X apabila ditemukan pelanggaran hukum atau sikap tidak kooperatif dari penyelenggara sistem elektronik terkait.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menjelaskan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang jelas dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia. Kondisi ini dinilai berpotensi melanggar hak privasi serta hak atas citra diri seseorang.
Menurut Sabar, manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan. Praktik tersebut juga dianggap sebagai bentuk perampasan kendali individu atas identitas visualnya, yang dapat berdampak pada kerugian psikologis, sosial, hingga reputasi korban.
Kemkomdigi saat ini berkoordinasi dengan berbagai penyelenggara sistem elektronik untuk memastikan adanya mekanisme perlindungan yang efektif. Upaya tersebut meliputi penguatan sistem moderasi konten, pencegahan pembuatan deepfake bermuatan seksual, serta penyediaan prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.
Sebaiknya Anda baca juga:
“Setiap penyelenggara sistem elektronik wajib memastikan teknologi yang disediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, atau perusakan martabat manusia,” tegas Sabar.
Kemkomdigi juga mengingatkan bahwa kepatuhan terhadap peraturan perundang-undangan Indonesia berlaku bagi seluruh platform digital yang beroperasi di Tanah Air. Jika ketidakpatuhan atau sikap tidak kooperatif terbukti, pemerintah berwenang menjatuhkan sanksi hingga pemblokiran akses layanan Grok AI dan platform X.
Like, Share, Comment:
Website kami bergantung pada iklan untuk terus dapat menghadirkan jurnalisme berkualitas.
Dukung kami dengan mengijinkan iklan tampil di browser anda.
- Klik ikon AdBlock pada area ekstensi browser (di bagian pojok kanan atas).
- Lalu klik pilihan untuk menonaktifkan atau pilihan "Don't run on this website / on this page".
Setelah itu Refresh / Muat Ulang halaman ini.
Google News
Instagram 
YouTube 
TikTok 
Twitter 
Threads
Komentar (0)
Belum ada komentar.
Silakan login via Google untuk dapat memberi komentar!