Platform Generatif AI Siapkan Alat Edit Gambar yang Kontroversial

Kendati demikian, peluncuran alat pengeditan semacam ini tanpa langkah pengamanan yang memadai dapat membawa resiko besar. Alat ini berpotensi memfasilitasi pelanggaran hak cipta dalam skala besar dan meningkatkan penyebaran deepfake yang menyesatkan.

Dalam beberapa waktu terakhir, generasi gambar deepfake yang menampilkan kehancuran dan penderitaan manusia telah membanjiri internet, terutama setelah bencana seperti Badai Helene.

Menurut data dari Clarity, sebuah firma pendeteksi deepfake, jumlah deepfake yang dibuat dan diterbitkan tahun ini meningkat sebesar 900% dibandingkan dengan tahun lalu. Hal ini menimbulkan kekhawatiran yang wajar; sebuah jajak pendapat dari YouGov menemukan bahwa 85% orang Amerika khawatir tentang penyebaran deepfake yang menyesatkan secara online.

Tanpa adanya undang-undang yang mengkriminalisasi deepfake di tingkat federal di AS, lebih dari 10 negara bagian telah mengesahkan undang-undang melawan peniruan yang dibantu AI.

Undang-undang California yang saat ini terhambat akan menjadi yang pertama yang memberi wewenang kepada hakim untuk memerintahkan penghapusan deepfake dan kemungkinan dikenakan sanksi moneter bagi para pelanggarnya.
Halaman Selanjutnya....