UE Pelopori Pembentukan Regulasi AI demi Lindungi Warganya

BRUSSELS - Parlemen Eropa (European Parliament/EP) pada Rabu (14/6) menentukan sikapnya terkait Undang-Undang (UU) Kecerdasan Buatan (Artificial Intelligence/AI) Uni Eropa (UE) sehingga membuka jalan untuk negosiasi akhir antara EP, Komisi Eropa, dan negara-negara anggota UE, kata sejumlah pejabat di Brussel pada Rabu (14/6).

EP merekomendasikan larangan penuh terhadap AI untuk pengawasan biometrik, pengenalan emosi, dan kebijakan prediktif; transparansi yang jelas untuk konten yang dihasilkan oleh AI generatif; serta klasifikasi risiko tinggi sistem AI yang digunakan untuk memengaruhi pemilih dalam pemilihan umum (pemilu).

Hasil pemungutan suara di EP terkait hal ini adalah 499 suara mendukung, 28 menolak, dan 93 abstain.

UU AI menjadi upaya pertama di dunia untuk meregulasi teknologi tersebut. UU itu bertujuan untuk melindungi warga dari potensi penggunaan AI yang merugikan, sembari memastikan bahwa inovasi teknologi tidak terhambat, menurut wakil Rumania Dragos Tudorache, salah satu pelapor (rapporteur) EP untuk UU AI.

"Apakah ini waktu yang tepat bagi UE untuk meregulasi AI? Tentu saja, mengingat dampak mendalam yang ditimbulkannya, dan perusahaan yang mengatur dirinya sendiri tidak akan cukup untuk melindungi warga dan masyarakat kita," ujar Tudorache menjelang pemungutan suara tersebut.

AI untuk tujuan umum nantinya harus mematuhi sejumlah aturan, termasuk registrasi dan penilaian risiko untuk model-model dasar, dan kewajiban pencantuman label untuk konten yang dihasilkan oleh AI generatif.

Menurut EP, praktik-praktik AI yang dilarang mencakup sistem identifikasi biometrik dalam waktu nyata (real-time) dan pascajarak jauh (post-remote) di ruang publik, sistem pengelompokan biometrik yang didasarkan pada sejumlah karakteristik yang sensitif, seperti ras atau jenis kelamin; sistem predictive policing; sistem pengenalan emosi; dan pengumpulan gambar wajah yang tidak ditargetkan dari internet atau rekaman televisi sirkuit tertutup (closed circuit television/CCTV) untuk membuat basis data pengenalan wajah.

Sejumlah penggunaan AI yang berisiko tinggi akan mencakup sistem yang menimbulkan bahaya besar bagi kesehatan warga, keamanan, hak asasi manusia, atau lingkungan, sistem AI yang dimanfaatkan untuk memengaruhi pemilih dan hasil pemilu, serta sistem pemberi rekomendasi yang digunakan oleh platform media sosial.

"Kami ingin potensi positif AI dalam hal kreativitas dan produktivitas dapat dimanfaatkan, tetapi kami juga akan berjuang untuk melindungi posisi kita dan menangkal bahaya terhadap demokrasi dan kebebasan kita selama negosiasi dengan Dewan," tutur Brando Benifei, salah satu pelapor EP untuk UU AI asal Italia.

Untuk mendukung inovasi dalam bidang AI, EP menambahkan pengecualian untuk kegiatan penelitian dan komponen AI yang ditawarkan di bawah lisensi sumber terbuka (open source). AI juga harus menjalani pengujian di lingkungan kehidupan nyata sebelum digunakan.

Hak warga untuk mengajukan keluhan terkait AI dan mendapatkan informasi perihal keputusan yang didasarkan pada sistem AI yang berisiko tinggi juga akan ditingkatkan.