Taylor Swift Jadi Korban Foto 'Deepfake', Penggemar Serang Balik

JAKARTA - Gambar palsu Swift yang eksplisit secara seksual dan kasar buatan AI (artificial intelligence) beredar luas minggu ini di platform media sosial X.

Satu postingan yang dibagikan oleh pengguna terverifikasi di platform X, tayang selama sekitar 17 jam dan dilihat lebih dari 45 juta kali sebelum dihapus dan akun ditangguhkan.

Penggemar Swift alias "Swifties" bergerak cepat melaporkan semua retweet dan share yang menampilkan gambar tersebut, serta membanjiri hasil pencarian dengan foto dan video asli penyanyi tersebut. Namun masih ada salinan foto palsu yang diposting ulang di seluruh internet.

Gambar AI bukanlah masalah literasi media atau masyarakat umum yang tidak mampu membedakandeepfake- media yang telah dimanipulasi agar terlihat atau terdengar seperti orang lain - dari kenyataan.Contoh gambar Swift terlihat hampir seperti kartun.

Kekhawatiran besar lainnya adalah mengenai undang-undang dan platform sosial yang perlu menindak pornografi deepfake yang dihasilkan oleh AI.

Meskipun pemilik X, Elon Musk, telah mengurangi tim moderasi kontan X sejak mengambil alih pada 2022, platform tersebut memiliki kebijakan yang melarang media sintetis dan manipulatif serta ketelanjangan non-konsensual, dan tampaknya mengatasi masalah tersebut tanpa secara spesifik menyebutkan nama Swift dalam sebuah postingan pada 26 Januari.

"Memposting gambar ketelanjangan non-konsensual (NCN) dilarang keras di X dan kami tidak memiliki kebijakan toleransi terhadap konten tersebut," kata Musk.

Kelompok pendeteksi deepfake, Reality Defender, mengatakan pihaknya melacak sejumlah besar materi pornografi non-konsensual yang menggambarkan Swift, khususnya di X. Beberapa gambar juga masuk ke Facebook milik Meta dan platform media sosial lainnya.

"Sayangnya, mereka menyebar ke jutaan pengguna pada saat beberapa dari mereka dihapus," kata Mason Allen, kepala pertumbuhan Reality Defender.

Dari semua video deepfake di internet, laporan tahun 2023 menemukan bahwa 98 persen di antaranya video pornografi, dan 99 persen yang menjadi sasaran video tersebut adalah wanita.

Emily Poler, seorang litigator bidang kekayaan intelektual yang berbasis di Brooklyn, New York menjelaskan bahwa meskipun itu bukan foto Taylor Swift yang sebenarnya, ada cukup banyak karakteristik dan indikator dalam gambar tersebut sehingga tidak dapat disangkal bahwa itu memang fotonya.

Baik Swift maupun timnya belum berkomentar secara terbuka apakah mereka akan mengambil tindakan hukum terhadap pembuat foto deepfake tersebut.Juru bicara Swift tidak menanggapi permintaan komentar dari Yahoo Entertainment.

Pada 2018, aktris Scarlett Johannson menjadi korban video eksplisit yang dibuat oleh AI. Dalam sebuah pernyataan pada saat itu, dia mengatakan sedih telah mengalami hal ini berkali-kali dengan gambar dirinya tersebar di internet.