Indonesia Jadi Negara Pertama yang Blokir Grok, Chatbot AI Elon Musk Tersandung Konten Seksual

JAKARTA - Indonesia resmi menjadi negara pertama di dunia yang memblokir akses chatbot Grok, produk kecerdasan buatan milik perusahaan xAI yang didirikan Elon Musk. Pemblokiran ini dilakukan karena risiko serius munculnya konten pornografi dan deepfake seksual yang dihasilkan oleh sistem AI tersebut.

Langkah tegas pemerintah Indonesia ini langsung menarik perhatian global karena dilakukan di tengah meningkatnya kekhawatiran internasional terhadap penyalahgunaan teknologi kecerdasan buatan. Sejumlah negara di Eropa dan Asia sebelumnya sudah melontarkan kecaman, namun Indonesia menjadi yang pertama mengambil tindakan pemblokiran penuh.

Pemerintah menilai bahwa konten seksual yang dihasilkan Grok berpotensi melanggar hukum nasional serta mengancam keamanan dan martabat warga negara di ruang digital. Risiko tersebut dianggap tidak sejalan dengan aturan ketat Indonesia terkait penyebaran konten cabul secara daring.

"Pemerintah memandang praktik deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga negara di ruang digital," kata Menteri Komunikasi dan Digital Meutya Hafid dalam pernyataan resminya.

Kementerian Komunikasi dan Digital juga telah memanggil sejumlah pejabat dan pihak terkait untuk membahas dampak serta tindak lanjut dari pemblokiran Grok. Pembahasan tersebut mencakup evaluasi risiko AI dan penguatan pengawasan terhadap platform digital asing.

Pemblokiran ini terjadi setelah muncul laporan bahwa Grok dapat menghasilkan dan mengedit gambar bermuatan seksual, termasuk manipulasi foto tanpa persetujuan. Fitur tersebut bahkan memungkinkan pengguna mengubah foto orang menjadi konten seksual dan menyebarkannya secara publik di platform X.

Platform tersebut mengakui adanya celah keamanan dalam sistem Grok yang memungkinkan munculnya konten seksual sensitif. Perusahaan menyatakan telah membatasi pembuatan dan pengeditan gambar hanya untuk pelanggan berbayar sebagai langkah sementara.

Elon Musk menyatakan melalui platform X bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi hukum. Ia menegaskan bahwa penggunaan AI tetap tunduk pada aturan hukum yang berlaku di masing-masing negara.

Langkah Indonesia ini terjadi di tengah meningkatnya tekanan global terhadap X dan Grok. Komisi Eropa telah memerintahkan X untuk menyimpan seluruh dokumen terkait chatbot AI tersebut guna memastikan kepatuhan terhadap regulasi Uni Eropa.

Swedia juga menyuarakan kritik keras setelah sejumlah gambar seksual hasil AI beredar dan dianggap tidak dapat diterima. Wakil perdana menteri Swedia bahkan menjadi salah satu target manipulasi gambar melalui Grok.

"Ini semacam kekerasan seksual. Ini menjijikkan, tidak dapat diterima, dan menyinggung,” ujar Perdana Menteri Swedia Ulf Kristersson.

Dengan populasi Muslim terbesar di dunia dan regulasi digital yang ketat, Indonesia menegaskan posisinya sebagai negara yang serius dalam melindungi warganya dari dampak negatif teknologi. Pemblokiran Grok menandai sikap tegas Indonesia dalam menghadapi risiko AI yang melanggar etika dan hukum.