Selain Indonesia, Grok Juga Diblokir di Malaysia Imbas Konten Pornografi Deepfake

KUALA LUMPUR - Malaysia memblokir akses ke chatbot Grok milik Elon Musk karena konten pornografi yang dihasilkan AI, kata regulator teknologi negara itu, Minggu (11/1).

Keputusan ini dikeluarkan menyusul reaksi global terhadap fitur pembuatan gambar Grok yang memungkinkan pengguna untuk menseksualisasi gambar wanita dan anak-anak menggunakan perintah teks sederhana.

Pada hari Sabtu (10/1), Indonesia menjadi negara pertama yang menolak semua akses ke chatbot tersebut. Di negara lain, akses hanya dibatasi untuk pelanggan berbayar.

Komisi Komunikasi dan Multimedia Malaysia (MCMC) mengatakan dalam sebuah pernyataan, pembatasan sementara akses ke kecerdasan buatan Grok untuk pengguna di Malaysia dengan segera berlaku.

Ketika seorang reporter AFP di ibu kota Malaysia, Kuala Lumpur, pada hari Minggu memasukkan perintah ke Grok, tidak ada respons.

"Tindakan ini menyusul penyalahgunaan Grok yang berulang untuk menghasilkan gambar cabul, eksplisit secara seksual, tidak senonoh, sangat menyinggung, dan dimanipulasi tanpa persetujuan," kata MCMC.

Pernyataan tersebut mengutip "konten yang melibatkan perempuan dan anak di bawah umur, meskipun telah dilakukan pengawasan regulasi sebelumnya dan pemberitahuan resmi" yang dikeluarkan kepada X Corp milik Musk dan startup xAI yang mengembangkan Grok.

Chatbot AI tersebut terintegrasi ke dalam platform media sosial X.

Regulator Malaysia mengatakan mereka menilai pengamanan platform tersebut tidak memadai, dan akses hanya akan dilanjutkan setelah perubahan yang diperlukan diverifikasi.

X Corp "gagal mengatasi risiko inheren yang ditimbulkan oleh desain dan pengoperasian alat AI", dan "terutama mengandalkan mekanisme pelaporan yang diinisiasi pengguna", kata regulator tersebut.

Para pejabat Eropa dan aktivis teknologi pada hari Jumat mengecam Grok setelah fitur pembuatan gambar kontroversialnya dibatasi untuk pelanggan berbayar. Mereka mengatakan pembatasan tersebut gagal mengatasi kekhawatiran tentang deepfake yang berbau seksual.

Grok tampaknya menangkis kritik tersebut dengan kebijakan monetisasi baru, dengan memposting di X pada hari Kamis bahwa pembuatan dan pengeditan gambar sekarang "dibatasi untuk pelanggan berbayar", bersamaan dengan tautan ke langganan premium.