Platform Generatif AI Siapkan Alat Edit Gambar yang Kontroversial

Midjourney, platform generatif AI yang tengah naik daun, telah mengumumkan rencana untuk meluncurkan alat web yang diperbarui, memungkinkan pengguna untuk mengedit gambar yang diunggah dari internet dengan bantuan teknologi AI mereka.

Dilansir dari Tech Crunch, CEO Midjourney, David Holtz, mengungkapkan bahwa fitur ini akan dirilis awal minggu depan, dan memberikan kemampuan bagi pengguna untuk mengubah tekstur objek dalam gambar, serta "melukis ulang" warna dan detail berdasarkan deskripsi yang diberikan.

Inovasi dalam pengeditan gambar menggunakan AI ini muncul di tengah perdebatan hangat mengenai implikasi etis dan hukum yang menyertainya. Platform-platform besar seperti Meta telah berjuang untuk menentukan cara yang tepat dalam memberi label pada gambar yang diedit dengan alat AI dibandingkan dengan gambar yang sepenuhnya dihasilkan dari model AI. Di sisi lain, Google telah memperkenalkan fitur AI yang kuat tanpa memberikan indikasi visual bahwa gambar tersebut telah dimodifikasi.

Tahun lalu, Midjourney berkomitmen untuk menggunakan properti Digital Source Type dari IPTC, sebuah standar teknis yang menyematkan metadata ke dalam gambar untuk menunjukkan bahwa gambar tersebut dihasilkan oleh AI. Namun, perusahaan ini termasuk salah satu dari sedikit platform AI besar yang belum mengadopsi teknologi C2PA, yang memberikan jejak metadata mengenai asal-usul lengkap suatu gambar, termasuk peralatan dan perangkat lunak yang digunakan untuk membuatnya.

Dalam sebuah postingan di server resmi Discord Midjourney, Holtz menyatakan bahwa alat pengeditan gambar yang baru ini akan dibatasi pada "subkumpulan komunitas" pada tahap awal. Langkah ini diambil untuk memastikan adanya moderasi manusia yang lebih ketat serta penggunaan "moderator AI yang lebih canggih" guna mencegah penyalahgunaan fitur tersebut.
Halaman Selanjutnya....