Komdigi Gandeng Organisasi Masyarakat Siapkan Alat Deteksi 'Deepfake' Gunakan AI

YOGYAKARTA - Kementerian Komunikasi dan Digital (Komdigi) bersama organisasi masyarakat sipil (civil society organization/CSO) berkolaborasi menyiapkan alat pendeteksi "deepfake" yakni video, gambar, maupun suara palsu yang dihasilkan menggunakan kecerdasan buatan (AI).

Kepala Badan Pengembangan Sumber Daya Manusia (BPSDM) Komdigi Bonifasius Wahyu Pudjianto di Yogyakarta, Jumat (27/6), mengatakan inisiatif itu untuk menghadapi tantangan penyalahgunaan teknologi AI yang berpotensi merugikan publik.

"Mereka (CSO) membuat sebuah 'tools'. Itu nanti akan diluncurkan, saat ini masih 'soft launching'. Terkait 'chatbot', namun kita bisa melakukan 'checking', baik itu cek konten, apakah itu benar atau tidak," kata Bonifasius.

Salah satu mitra yang terlibat dalam pengembangan piranti digital itu, kata dia, adalah Masyarakat Anti Fitnah Indonesia (Mafindo).

Menurut Bonifasius, platform yang dikembangkan merupakan kelanjutan dari portal CekFakta yang kini diintegrasikan dengan teknologi AI sehingga memungkinkan verifikasi lintas format.

"Kita nanti bisa mengecek konten bukan hanya dalam bentuk teks, tapi juga video, gambar dan suara. Ini diharapkan membantu masyarakat mengenali kebenaran suatu konten," ujar dia.

Selain pengembangan alat verifikasi, pemerintah juga menekankan pentingnya edukasi etik digital bagi masyarakat, terutama para pembuat konten.

Bonifasius juga menegaskan perlunya transparansi untuk menyatakan apakah sebuah konten dihasilkan secara nyata atau menggunakan bantuan teknologi AI.

"Para kreator konten perlu memberikan penanda atau keterangan apakah konten itu buatan AI atau asli. Ini penting agar masyarakat bisa membedakan mana konten nyata, mana yang buatan," ucapnya.

Terkait regulasi, Bonifasius mengakui aturan spesifik mengenai penggunaan dan pengawasan konten berbasis AI, termasuk "deepfake" saat ini belum tersedia.

Namun, kata dia, pembahasan aturan tersebut akan menjadi bagian dari peta jalan (road map) pengembangan kebijakan nasional AI yang sedang disiapkan.

"Nanti masuk di dalam 'road map AI' yang akan segera dibahas," ujar Bonifasius.