Malaysia Menguji Pengadilan dengan Bantuan Kecerdasan Buatan

Kritikus memperingatkan, risiko penggunaan AI mengakar dan memperkuat bias terhadap minoritas dan kelompok yang terpinggirkan, dengan mengatakan teknologi tersebut tidak memiliki kemampuan hakim untuk mempertimbangkan keadaan individu, atau beradaptasi dengan perubahan adat istiadat sosial.

"Dalam menjatuhkan hukuman, hakim tidak hanya melihat fakta dari kasus tersebut, mereka juga mempertimbangkan faktor-faktor yang meringankan, dan menggunakan kebijaksanaan mereka. Tetapi AI tidak dapat menggunakan kebijaksanaan," kata Ismail kepada Thomson Reuters Foundation.

Pengacara hak asasi manusia Malaysia, Charles Hector Fernandez, menambahkan, dalam mempertimbangkan faktor-faktor yang memberatkan dan meringankan "membutuhkan pikiran manusia".

"Hukuman juga bervariasi dengan perubahan waktu dan perubahan opini publik. Kita membutuhkan lebih banyak hakim dan jaksa untuk menangani beban kasus yang meningkat; AI tidak dapat menggantikan hakim manusia," ujar dia.

Berusaha mengatasi kekhawatiran bahwa perangkat lunak AI dapat menyebabkan bias dalam hukuman, Sistem Informasi Sarawak mengatakan telah menghapus variabel "ras" dari algoritma.
Halaman Selanjutnya....