Platform Generatif AI Siapkan Alat Edit Gambar yang Kontroversial

Midjourney, platform generatif AI yang tengah naik daun, telah mengumumkan rencana untuk meluncurkan alat web yang diperbarui, memungkinkan pengguna untuk mengedit gambar yang diunggah dari internet dengan bantuan teknologi AI mereka.

Dilansir dari Tech Crunch, CEO Midjourney, David Holtz, mengungkapkan bahwa fitur ini akan dirilis awal minggu depan, dan memberikan kemampuan bagi pengguna untuk mengubah tekstur objek dalam gambar, serta "melukis ulang" warna dan detail berdasarkan deskripsi yang diberikan.

Inovasi dalam pengeditan gambar menggunakan AI ini muncul di tengah perdebatan hangat mengenai implikasi etis dan hukum yang menyertainya. Platform-platform besar seperti Meta telah berjuang untuk menentukan cara yang tepat dalam memberi label pada gambar yang diedit dengan alat AI dibandingkan dengan gambar yang sepenuhnya dihasilkan dari model AI. Di sisi lain, Google telah memperkenalkan fitur AI yang kuat tanpa memberikan indikasi visual bahwa gambar tersebut telah dimodifikasi.

Tahun lalu, Midjourney berkomitmen untuk menggunakan properti Digital Source Type dari IPTC, sebuah standar teknis yang menyematkan metadata ke dalam gambar untuk menunjukkan bahwa gambar tersebut dihasilkan oleh AI. Namun, perusahaan ini termasuk salah satu dari sedikit platform AI besar yang belum mengadopsi teknologi C2PA, yang memberikan jejak metadata mengenai asal-usul lengkap suatu gambar, termasuk peralatan dan perangkat lunak yang digunakan untuk membuatnya.

Dalam sebuah postingan di server resmi Discord Midjourney, Holtz menyatakan bahwa alat pengeditan gambar yang baru ini akan dibatasi pada "subkumpulan komunitas" pada tahap awal. Langkah ini diambil untuk memastikan adanya moderasi manusia yang lebih ketat serta penggunaan "moderator AI yang lebih canggih" guna mencegah penyalahgunaan fitur tersebut.

Kendati demikian, peluncuran alat pengeditan semacam ini tanpa langkah pengamanan yang memadai dapat membawa resiko besar. Alat ini berpotensi memfasilitasi pelanggaran hak cipta dalam skala besar dan meningkatkan penyebaran deepfake yang menyesatkan.

Dalam beberapa waktu terakhir, generasi gambar deepfake yang menampilkan kehancuran dan penderitaan manusia telah membanjiri internet, terutama setelah bencana seperti Badai Helene.

Menurut data dari Clarity, sebuah firma pendeteksi deepfake, jumlah deepfake yang dibuat dan diterbitkan tahun ini meningkat sebesar 900% dibandingkan dengan tahun lalu. Hal ini menimbulkan kekhawatiran yang wajar; sebuah jajak pendapat dari YouGov menemukan bahwa 85% orang Amerika khawatir tentang penyebaran deepfake yang menyesatkan secara online.

Tanpa adanya undang-undang yang mengkriminalisasi deepfake di tingkat federal di AS, lebih dari 10 negara bagian telah mengesahkan undang-undang melawan peniruan yang dibantu AI.

Undang-undang California yang saat ini terhambat akan menjadi yang pertama yang memberi wewenang kepada hakim untuk memerintahkan penghapusan deepfake dan kemungkinan dikenakan sanksi moneter bagi para pelanggarnya.

Midjourney sendiri belum bisa dianggap sebagai contoh ideal dalam penerapan AI yang bertanggung jawab. Perusahaan ini tengah menghadapi gugatan terkait dugaan penggunaan konten berhak cipta untuk melatih model generatif AI mereka. Namun, dalam beberapa bulan terakhir, Midjourney telah mengambil langkah-langkah untuk membatasi penyebaran deepfake, termasuk menerapkan filter untuk tokoh politik menjelang pemilihan presiden AS.

Dengan potensi risiko yang tinggi dan tantangan yang kompleks, peluncuran alat pengeditan ini diharapkan dapat memicu diskusi lebih lanjut mengenai regulasi dan etika penggunaan AI dalam pengeditan gambar.

Midjourney, sebagai salah satu pemain utama dalam dunia AI, memiliki tanggung jawab besar untuk memastikan bahwa inovasi mereka tidak menjadi alat penyebaran informasi yang salah atau merugikan. Langkah mereka ke depan akan sangat dipantau oleh publik, komunitas pengguna, dan para pembuat kebijakan di seluruh dunia.