Banyak ‘Deepfake’ di Internet, Begini Cara Bedakan Fakta dari Fiksi Ciptaan AI

Arif Perdana, Monash University

Pembuatan gambar atau video, termasuk elemen audio, dengan perangkat komputer yang dikenal dengan teknologi media sintetis (media tiruan) dalam perfilman, telah lama menjadi komponen inti dalam menciptakan dunia sinematografi yang menawan.

Kita bisa melihat hasilnya dalam film-film terkenal termasuk seri Avatar dan Jurassic Park.

Teknologi ini bukan fenomena baru. Sejak debutnya dalam film "Vertigo" pada 1958, media sintetis telah berkembang signifikan. Ini terbukti dengan penerapannya secara penuh dalam "Toy Story" pada 1995.

Penerapan media sintetis di dunia perfilman tidak berbahaya. Ketika ditujukan untuk audiens dengan usia yang tepat dan hiburan, media ini menambah dimensi baru pada pengalaman menonton film.

Namun, kini, dengan kemajuan algoritme AI generatif, kemampuan untuk menghasilkan media sintetis tidak lagi dimonopoli oleh profesional film dan pengeditan video. Orang awam pun bisa mengakses teknologi ini untuk menghasilkan konten yang kompleks dengan cepat, mudah, dan berbiaya murah.

Salah satu masalahnya adalah media sintetis versi AI yang disalahgunakan bisa menimbulkan konsekuensi serius. Misalnya, ketika digunakan untuk menciptakan "deepfake," yaitu konten media sintetis yang dibuat dengan tujuan menyesatkan atau melakukan kejahatan. Kita perlu meningkatkan kapasitas dan regulasi untuk mengurangi dampak negatif ini.

Dampak negatif deepfake

Ada banyak model AI generatif yang digunakan untuk membuat media sintesis. Model yang paling sering digunakan adalah tiga model berikut "(1) Encoders/Decoders" dan "(2) Generative Adversarial Networks" (GAN).

Kedua model ini memungkinkan penciptaan gambar atau video yang sangat realistis, dari pertukaran wajah hingga kreasi video binatang yang terlihat berbicara.

Lalu model ketiga, "Style Transfer" yang menawarkan kapabilitas untuk menyisipkan nuansa artistik ke dalam foto atau video, mengonversi gambar biasa menjadi karya seni yang estetis.

AI telah membuka jalan bagi inovasi dalam media sintetis, meskipun terkadang menciptakan konten yang begitu nyata sehingga sulit dibedakan apakah audio atau video yang dihasilkan palsu atau asli.

Deepfake ini bisa berupa audio dan video yang sebenarnya palsu tapi tampak nyata, ditambah lagi dengan narasi-narasi yang sensitif dan memanipulasi psikologi manusia.

Contoh nyata dari dampak negatif ini terjadi pada 2022, ketika video deepfake Presiden Ukraina Volodymyr Zelensky, beredar luas. Ketika ia terlihat mengajak warga Ukraina menyerah kepada Rusia. Kejadian serupa terjadi pada 2023 dengan tersebarnya video deepfake Presiden Rusia Vladimir Putin yang mengklaim Rusia akan diserang oleh Ukraina.

Di Slovakia, audio deepfake jurnalis Denník N, Monika Tódová digunakan untuk mendiskreditkan media dengan menyebarluaskan percakapan palsu tentang manipulasi pemilihan umum pada 2023.