Komdigi Desak Platform Global Hadirkan Fitur Deteksi Konten AI dan Deepfake

JAKARTA – Kementerian Komunikasi dan Urusan Digital meminta platform digital global untuk menghadirkan fitur yang dapat membantu pengguna mengidentifikasi konten yang dihasilkan oleh kecerdasan buatan (AI). Langkah ini dilakukan untuk menekan penyebaran hoaks serta konten manipulatif berbasis deepfake.

Deepfake merupakan rekayasa digital berbasis AI yang mampu mengubah wajah, suara, maupun ekspresi seseorang dalam video sehingga tampak meyakinkan.

“Kami berharap platform media sosial global bisa menerapkan filter, atau setidaknya menyediakan alat untuk memeriksa apakah suatu konten dibuat oleh AI atau bukan,” kata Wakil Menteri Komunikasi dan Urusan Digital, Nezar Patria, Rabu (10/9).

Ia menegaskan, fitur tersebut harus gratis dan mudah diakses agar semua pihak dapat menggunakannya. Menurut Nezar, lonjakan konten deepfake menjadi ancaman serius. Mengutip data Sensity AI, ia menyebut konten deepfake meningkat hingga 550 persen dalam lima tahun terakhir, dengan jumlah sebenarnya kemungkinan lebih tinggi karena semakin mudahnya akses alat manipulasi gambar dan video.

Menurut Nezar, perusahaan teknologi besar sebenarnya memiliki kapasitas komputasi dan algoritma yang memadai untuk mendukung fungsi kepentingan publik, terutama dalam mendeteksi hoaks maupun deepfake.

“Jika kita meragukan keaslian sebuah konten, seharusnya kita bisa langsung memeriksanya dengan kemampuan AI milik mereka. Misalnya, Meta atau Google dapat menjadikannya sebagai fitur standar,” ujarnya.

Nezar menekankan, pemerintah berupaya menjaga keseimbangan antara inovasi dan regulasi demi mencegah penyalahgunaan AI. Indonesia sendiri telah memiliki sejumlah payung hukum, seperti UU ITE, UU Perlindungan Data Pribadi, serta berbagai regulasi teknis, dan kini tengah menyusun aturan baru untuk memastikan AI digunakan secara etis dan bertanggung jawab.

Selain regulasi, kementerian juga menggandeng komunitas pemeriksa fakta, termasuk Mafindo dan berbagai media massa, guna memperkuat literasi digital masyarakat.

“Ruang digital adalah milik kita bersama, sehingga perlu kerja sama erat untuk melindungi publik dari hoaks dan konten berbahaya,” tambah Nezar.

Awalnya dikembangkan untuk industri kreatif, teknologi deepfake kini banyak disalahgunakan untuk penipuan, pencemaran nama baik, hingga disinformasi politik. Bahkan mantan Menteri Keuangan Sri Mulyani baru-baru ini ikut menjadi target manipulasi digital tersebut.