UNESCO Peringatkan Alat AI Menghasilkan Konten Seksis, Merugikan Perempuan

PARIS - Alat kecerdasan buatan (Artificial Intelligence/AI) paling populer di dunia didukung oleh program dari OpenAI dan Meta yang menunjukkan prasangka terhadap perempuan, menurut penelitian UNESCO yang diluncurkan pada Kamis (7/3).

Pemain-pemain terbesar di bidang AI bernilai miliaran dollar melatih algoritme mereka pada sejumlah besar data yang sebagian besar diambil dari internet, sehingga alat mereka dapat menulis dengan gaya novelis Oscar Wilde atau membuat gambar yang terinspirasi dari pelukis Salvador Dali.

Namun outputnya seringkali dikritik karena mencerminkan stereotip rasial dan seksis, serta menggunakan materi berhak cipta tanpa izin.

Pakar UNESCO menguji algoritme Llama 2 Meta dan GPT-2 dan GPT-3.5 OpenAI, program yang mendukung versi gratis chatbot populer ChatGPT.

Studi tersebut menemukan bahwa setiap algoritme - yang dikenal di industri sebagai Model Bahasa Besar (LLM) - menunjukkan "bukti nyata adanya prasangka terhadap perempuan".

Program tersebut menghasilkan teks yang mengkaitkan nama perempuan dengan kata-kata seperti "rumah", "keluarga", atau "anak-anak", namun nama laki-laki dikaitkan dengan "bisnis", "gaji", atau "karir".

Meskipun laki-laki digambarkan memiliki pekerjaan berstatus tinggi seperti guru, pengacara, dan dokter, perempuan sering kali berperan sebagai pelacur, juru masak, atau pembantu rumah tangga.

GPT-3.5 ternyata tidak begitu bias gender dibandingkan dua model lainnya.

Namun, penulis memuji Llama 2 dan GPT-2 karena bersifat open source, sehingga permasalahan ini dapat diteliti dengan cermat, tidak seperti GPT-3.5, yang merupakan model tertutup.

Perusahaan AI "benar-benar tidak melayani semua penggunanya", kata Leona Verdadero, pakar kebijakan digital UNESCO, kepada AFP.

Direktur jenderal UNESCO Audrey Azoulay mengatakan, masyarakat umum semakin banyak menggunakan alat AI dalam kehidupan sehari-hari mereka.

"Aplikasi AI baru ini memiliki kekuatan untuk secara halus membentuk persepsi jutaan orang, sehingga bias gender sekecil apa pun dalam kontennya dapat secara signifikan memperbesar kesenjangan di dunia nyata," ujarnya.

UNESCO, yang merilis laporan tersebut untuk memperingati Hari Perempuan Internasional, merekomendasikan perusahaan-perusahaan AI agar mempekerjakan lebih banyak perempuan dan kelompok minoritas serta meminta pemerintah untuk memastikan AI yang etis melalui peraturan.