Deepfake Merajalela, YouTube Tawarkan Alat Deteksi Gratis ke Hollywood

WASHINGTON - YouTube menawarkan alat deteksi gratis kepada selebriti dan penghibur Hollywood untuk membantu memerangi deepfake, memperluas upaya platform video milik Google untuk melindungi dari peniruan identitas berbasis AI.

Bulan lalu, YouTube memperkenalkan alat perlindungan kemiripan wajah—yang membantu mengidentifikasi konten di mana wajah seseorang tampak diubah atau dihasilkan menggunakan teknologi AI—kepada pejabat pemerintah, jurnalis, dan kandidat politik.

Platform ini memperluas akses ke para penghibur termasuk aktor dan musisi, yang menghadapi risiko lebih tinggi penyalahgunaan citra mereka -- yang berpotensi merusak karier mereka dan mendistorsi realitas bersama.

"Kami memperluas teknologi pendeteksi kemiripan kami ke industri hiburan: agensi bakat, perusahaan manajemen, dan para selebriti yang mereka wakili," kata YouTube awal pekan ini.

Deteksi kemiripan akan "mencari konten yang dihasilkan AI dengan kemiripan peserta, seperti deepfake wajah mereka, dan memberi mereka kemampuan untuk menemukannya dan meminta penghapusannya."

Raksasa video itu mengatakan, selebriti dan entertainer berhak mengakses alat tersebut terlepas dari apakah mereka memiliki saluran YouTube atau tidak.

"YouTube membuka kemampuan deteksi deepfake-nya kepada tokoh publik mencerminkan titik balik dalam cara platform mendekati perlindungan identitas di era AI generatif," kata Alon Yamin, kepala eksekutif dan salah satu pendiri platform deteksi konten AI Copyleaks, kepada AFP.

"Teknologi meniru wajah, suara, dan gerak-gerik seseorang telah berkembang lebih cepat daripada pengamanan yang ada, sehingga menciptakan celah yang sudah dimanfaatkan oleh pihak-pihak yang tidak bertanggung jawab."

Taruhan Tinggi 

Langkah ini diambil setelah video AI hiper-realistis tentang selebriti yang telah meninggal -- yang dibuat dengan aplikasi seperti Sora milik OpenAI yang mudah digunakan -- menyebar dengan cepat secara online, memicu perdebatan tentang kendali atas citra orang yang telah meninggal.

Aplikasi OpenAI juga memicu banjir video selebriti seperti Michael Jackson dan Elvis Presley.

Bulan lalu, OpenAI mengatakan akan menutup aplikasi Sora miliknya.

Pada bulan Februari, sutradara Irlandia Ruairí Robinson membuat klip yang sangat realistis yang menampilkan Brad Pitt berkelahi dengan Tom Cruise di atas atap menggunakan petunjuk dua kalimat.

Klip yang beredar luas dan memicu kekhawatiran di Hollywood itu dihasilkan dengan Seedance 2.0, sebuah alat pembuatan video berbasis AI yang dimiliki oleh perusahaan teknologi Tiongkok, ByteDance.

Robinson juga membuat video lain yang menggambarkan Pitt bertarung melawan "ninja zombie" yang memegang pedang, dan video lain yang menunjukkan dia bekerja sama dengan Cruise untuk melawan robot.

Charles Rivkin, ketua dan kepala eksekutif Motion Picture Association, menyerukan kepada ByteDance untuk "segera menghentikan aktivitas pelanggarannya," menuduh perusahaan tersebut mengabaikan hukum hak cipta yang melindungi para kreator dan menopang jutaan lapangan pekerjaan.

YouTube mengatakan pihaknya bekerja sama dengan agensi bakat terkemuka untuk menyempurnakan cara pendeteksian kemiripan dapat melindungi para penghibur.

Perusahaan raksasa video tersebut "melakukan hal yang benar dengan menyediakan alat-alat ini tanpa biaya kepada para talenta, sehingga mereka dapat melindungi aset mereka," kata Jason Newman dari perusahaan manajemen dan produksi Untitled Entertainment kepada The Hollywood Reporter.

"Aset mereka adalah wajah mereka. Aset mereka adalah tubuh mereka. Aset mereka adalah siapa mereka, apa yang mereka lakukan, dan bagaimana mereka mengatakannya."

Perluasan alat deteksi ini dilakukan menyusul keluhan dari sejumlah tokoh terkenal Amerika tentang proses YouTube yang rumit dalam menandai dan menghapus deepfake dari platform tersebut – terutama karena AI mempercepat pembuatan konten palsu.

"Bagi para selebritas, eksekutif, dan individu terkenal lainnya, taruhannya sangat tinggi karena deepfake dapat digunakan untuk menyebarkan informasi yang salah, memanipulasi pasar, merusak reputasi, atau secara keliru menyiratkan dukungan. Deteksi yang kuat bukan lagi pilihan," kata Yamin.

"Sistem deteksi harus sangat akurat, terus diperbarui, dan dipadukan dengan kebijakan yang jelas serta proses penindakan yang cepat agar efektif." 

"Ini tidak akan sepenuhnya menghilangkan deepfake, tetapi dapat secara signifikan mengurangi jangkauan dan dampaknya dengan mempersulit konten yang dimanipulasi untuk tidak terdeteksi atau tidak ditentang," tambahnya.