Banyak ‘Deepfake’ di Internet, Begini Cara Bedakan Fakta dari Fiksi Ciptaan AI

Di Slovakia, audio deepfake jurnalis Denník N, Monika Tódová digunakan untuk mendiskreditkan media dengan menyebarluaskan percakapan palsu tentang manipulasi pemilihan umum pada 2023.

Sayangnya audio ini menyebar luas di media sosial pada saat masa tenang, dan pihak yang berwenang di Slowakia tidak bisa membantahnya. Akibatnya terjadi keresahan publik dan pesta demokrasi di Slowakia ternodai.

Tiga insiden di atas menunjukkan bagaimana deepfake dapat memicu kepanikan dan kebingungan di tengah situasi yang sudah tegang.

Dampak deepfake tidak hanya terbatas pada ranah sosial dan politik; kejahatan finansial juga menjadi arena yang rawan. Ini terjadi pada 2019, ketika seorang eksekutif perusahaan energi di Inggris tertipu oleh audio deepfake yang menirukan suara salah satu atasannya. Penipuan ini menyebabkan kerugian finansial yang signifikan, setara Rp3,7 miliar.

Kejadian ini memperlihatkan bagaimana teknologi yang canggih bisa disalahgunakan untuk menipu dan mengakibatkan kerugian material yang besar. Dengan demikian deepfake punya dampak yang sangat merugikan, mulai dari privasi, fitnah, pelanggaran hak cipta, kerugian keuangan, hingga keresahan sosial.

Langkah strategis memitigasi dampak 'deepfake'

Untuk menghadapi tantangan yang disebabkan oleh deepfake, ada beberapa langkah strategis yang bisa dilakukan.

Pertama, kita perlu memahami ciri-ciri dan elemen deepfake, seperti ketidakkonsistenan dalam gambar, video atau audio. Hal ini mencakup inkonsistensi pada ekspresi wajah, arah tatapan yang tidak sesuai, pergerakan rambut yang tidak alami, perspektif wajah yang salah, pencahayaan dan bayangan yang tidak realistis, serta kurangnya ekspresi mikro wajah. Elemen-elemen ini bisa mengindikasikan deepfake. Salah satu contoh yang terkenal adalah deepfake gambar mantan Presiden Amerika Serikat Barrack Obama. Selain itu, kita juga harus kritis dengan narasi-narasi yang bisa memanipulasi psikologi kita ketika melihat deepfake tersebut.

Kedua, solusi teknologi seperti algoritme AI yang dirancang untuk mendeteksi deepfake mampu mengidentifikasi ketidakkonsistenan ini secara otomatis. Selain bisa digunakan untuk menghasilkan deepfake, AI juga bisa digunakan untuk menandai atau memfilter deepfake.

Ada beberapa repositori big data yang bisa diakses secara publik untuk melatih algoritme AI supaya bisa mendeteksi audio dan video deepfake, di antaranya Deepfake Detection Challenge, dan Celeb-DF. Para ilmuwan dan perusahaan-perusahaan teknologi multinasional saling bekerja sama untuk mengembangkan algoritme AI pendeteksi deepfake ini.

Ketiga, melibatkan langkah-langkah hukum dan kebijakan, termasuk pengembangan peraturan yang memadai dan kerja sama internasional untuk mengatasi penyebaran deepfake secara global.

EU Research Report, misalnya, mengidentifikasi lima dimensi regulasi untuk memerangi deepfake: teknologi, penciptaan, sirkulasi, target, dan audiens.

Dimensi teknologi menyoroti AI sebagai dasar dari deepfake, dengan regulasi yang diterapkan oleh Komisi Eropa. Dimensi "penciptaan" menekankan pada pelaku dan alat yang digunakan untuk membuat deepfake.