Grok AI Disorot Komdigi, Dugaan Penyalahgunaan Konten Asusila dan Manipulasi Foto Pribadi

JAKARTA - Kementerian Komunikasi dan Digital (Kemkomdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X. Teknologi tersebut diduga dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyampaikan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai. Kondisi ini dinilai berisiko membuka celah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia.

"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi," ujar Alexander di Jakarta, Rabu (7/1/2026). 

Kemkomdigi menilai manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan semata. Praktik tersebut dipandang sebagai perampasan kendali individu atas identitas visual yang dapat berdampak pada kondisi psikologis, sosial, hingga reputasi korban.

Alexander mengatakan pihaknya kini berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan adanya mekanisme pelindungan yang efektif. Upaya ini mencakup penguatan moderasi konten, pencegahan pembuatan deepfake asusila, serta percepatan penanganan laporan pelanggaran privasi.

"Setiap PSE wajib memastikan teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang," tegasnya.

Ia menambahkan kepatuhan terhadap regulasi Indonesia menjadi kewajiban seluruh PSE yang beroperasi di Tanah Air.

Kemkomdigi mengingatkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X dapat dijatuhkan jika ditemukan ketidakpatuhan atau sikap tidak kooperatif. Langkah tegas ini disebut sebagai bentuk perlindungan negara terhadap hak digital warga.

Selain itu, Kemkomdigi menegaskan penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi dan manipulasi citra pribadi tanpa hak dapat dijerat sanksi administratif maupun pidana. Penegakan hukum akan dilakukan sesuai ketentuan peraturan perundang-undangan yang berlaku.

Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana pada 2 Januari 2026, pengaturan terkait pornografi semakin diperjelas. Pasal 172 mendefinisikan pornografi sebagai media bermuatan kecabulan atau eksploitasi seksual, sementara Pasal 407 mengatur ancaman pidana penjara enam hingga sepuluh tahun atau pidana denda.

Alexander juga mengingatkan masyarakat yang menjadi korban manipulasi foto atau deepfake asusila untuk tidak ragu menempuh jalur hukum. Korban dapat melapor kepada aparat penegak hukum maupun mengajukan pengaduan resmi ke Kemkomdigi.

"Kami mengimbau seluruh pihak menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, privasi dan hak atas citra diri setiap warga harus dihormati," pungkas Alexander.