Indonesia Kembangkan AI Generatif Lokal, Ada Keuntungan dan Risiko di Baliknya

Jika kita menilik kerangka hukum di Indonesia, hingga saat ini belum ada regulasi khusus mengenai AI. Meskipun sudah ada Undang-Undang Perlindungan Data Pribadi UU PDP, regulasi ini dinilai belum cukup untuk mengantisipasi dampak negatif dari pengembangan teknologi seperti LLM.

Sebagai contoh, Pasal 15 UU PDP membatasi akses individu terhadap data pribadinya dalam situasi tertentu, seperti untuk kepentingan keamanan nasional, penegakan hukum, atau penelitian ilmiah.

Namun, frasa "keamanan nasional" dalam pasal tersebut tidak memiliki definisi atau batasan yang jelas. Hal ini berpotensi menimbulkan risiko penyalahgunaan data oleh negara dengan dalih keamanan nasional. Oleh karena itu, regulasi yang lebih jelas sangat diperlukan untuk menyeimbangkan keterbukaan data dengan hak atas kepemilikan data. Penting untuk memastikan bahwa setiap individu memiliki kontrol penuh atas data mereka, termasuk hak untuk mengakses, menghapus, atau memodifikasi data sensitif.

Di sisi lain, hambatan dalam mewujudkan keterbukaan data, seperti kurangnya infrastruktur digital dan masalah interoperabilitas antar sektor, juga perlu segera diatasi.

Selain itu, potensi bias sosial atau diskriminasi dalam pengembangan LLM menjadi isu krusial yang patut diperhatikan. Studi ilmiah menunjukkan bahwa tujuh model LLM, termasuk ChatGPT dan LLaMA, menghasilkan bias gender dan ras yang cenderung mendiskriminasi perempuan dan orang kulit hitam.
Halaman Selanjutnya....