Grok AI Bikin Heboh, Bareskrim Tegas: Manipulasi Foto Vulgar Tanpa Izin Bisa Dipenjara

JAKARTA - Bareskrim Polri angkat bicara soal maraknya manipulasi foto seseorang menjadi konten vulgar menggunakan fitur kecerdasan buatan Grok AI di platform media sosial X. Aparat menegaskan, praktik tersebut berpotensi pidana jika dilakukan tanpa persetujuan pemilik foto asli.

Direktur Tindak Pidana Siber Bareskrim Polri Brigjen Himawan Bayu Aji menyebut pengeditan foto berbasis AI masuk kategori kejahatan deepfake. Fenomena ini disebut sudah masuk radar pengawasan kepolisian seiring pesatnya perkembangan teknologi digital.

"Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence, ya itu termasuk deepfake itu menggunakan AI," kata Himawan saat ditemui wartawan di Bareskrim Polri, Jakarta Selatan, Rabu (7/1/2026).

Ia menegaskan penyidik kini tengah mendalami dan melakukan penelusuran terhadap pola penyalahgunaan teknologi tersebut. Proses ini dilakukan untuk memastikan adanya unsur pidana dalam setiap kasus yang muncul.

"Karena itu memang kita sedang melakukan penyelidikan ke arah sana," lanjutnya. Ia memastikan kepolisian tidak menutup mata terhadap potensi kejahatan siber berbasis AI.

Himawan menegaskan setiap manipulasi data elektronik tanpa izin pemiliknya dapat diproses secara hukum. Ketentuan tersebut berlaku umum dan tidak terbatas pada penggunaan Grok AI semata.

"Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana," imbuhnya. Ia menekankan substansi pidana terletak pada pelanggaran hak dan persetujuan pemilik data.

Kasus ini mencuat setelah Kementerian Komunikasi dan Digital (Kemkomdigi) mengambil langkah tegas terhadap platform X. Grok AI diduga digunakan sebagai alat produksi dan penyebaran konten asusila berbasis manipulasi foto pribadi tanpa izin.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi Alexander Sabar menyebut temuan awal menunjukkan lemahnya sistem moderasi Grok AI. Fitur tersebut dinilai belum memiliki pengamanan yang memadai untuk mencegah pembuatan konten pornografi berbasis foto nyata warga Indonesia.

"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi," ujar Alexander dalam keterangan resminya. Pernyataan itu disampaikan di Jakarta pada Rabu (7/1/2026).

Kemkomdigi menilai praktik deepfake bukan sekadar pelanggaran kesusilaan, melainkan juga perampasan hak atas citra diri. Dampaknya disebut bisa merusak reputasi, kondisi psikologis, hingga kehidupan sosial korban.

Indonesia juga bukan negara pertama yang mempersoalkan Grok AI kepada perusahaan X milik Elon Musk. Sebelumnya, Prancis, India, dan Malaysia telah lebih dulu menyuarakan keberatan terkait potensi pelanggaran hukum dan etika dari teknologi tersebut.

Koordinasi lintas lembaga kini terus dilakukan untuk memastikan ruang digital tidak menjadi ladang kejahatan berbasis AI. Penegakan hukum dipastikan berjalan seiring penguatan regulasi dan pengawasan terhadap platform digital global.