Parah! AI Mobil Otonom Potensi Tiru Kebiasaan Buruk Pengemudi Manusia, Bisa Langgar Lalu Lintas

JAKARTA - Kendaraan otonom yang dikembangkan menggunakan kecerdasan artifisial (AI) berpotensi mewarisi bias manusia saat menentukan apakah harus memberi jalan kepada pejalan kaki, berdasarkan penelitian dari King’s College London.

Para peneliti mendalami persoalan ini, jauh melampaui pertanyaan mengenai apakah kendaraan harus berhenti dan memberi jalan kepada pejalan kaki yang sedang menyeberang. Pertanyaan yang lebih besar adalah seberapa banyak pengemudi manusia memutuskan untuk berhenti berdasarkan siapa pejalan kaki tersebut.

Penelitian sebelumnya, misalnya, menemukan bahwa banyak orang di Amerika Serikat (AS) cenderung lebih kecil kemungkinannya untuk memberi jalan kepada pejalan kaki berkulit hitam.

“Berbagai penelitian psikologi menunjukkan bahwa manusia secara tidak sadar melakukan diskriminasi dalam mengambil keputusan saat berkendara, khususnya ketika memberi jalan kepada pejalan kaki,” ujar peneliti King’s College London, dikutip laman CarBuzz, Rabu (9/9) waktu setempat.

Meniru gurunya

Ketika pemrogram AI mengembangkan Large Language Models (LLM) dan Visual-Language Models (VLM) yang diperlukan untuk mengemudikan kendaraan secara otonom, para peneliti menemukan bukti bahwa bias manusia mulai masuk ke dalam proses pengambilan keputusan ketika kendaraan mendekati penyeberangan dan mengidentifikasi orang yang hendak menyeberang.

“Temuan kami menunjukkan bahwa LLM dan VLM sama-sama membuat keputusan untuk memberi jalan yang dipengaruhi oleh jenis kelamin, etnis, agama, disabilitas, usia, warna kulit, dan status sosial ekonomi pejalan kaki,” kata laporan penelitian tersebut.

Para peneliti menambahkan bahwa stereotip dan perilaku diskriminatif telah diidentifikasi dalam pengaturan pengendalian robot dan tentu dapat berdampak pada kendaraan otonom dengan cara yang sama ketika berada di penyeberangan.

Para peneliti menguji empat model AI untuk pengujian LLM dan empat model untuk pengujian VLM. Mereka menemukan bahwa seluruh model tersebut dapat mewarisi bias manusia dalam berkendara secara otonom.

“Setiap model memiliki bias dengan cara dan tingkat yang berbeda, tetapi semua model menunjukkan hubungan yang signifikan secara statistik antara keputusan untuk memberi jalan dan karakteristik pribadi pejalan kaki,” ujar peneliti King’s College London.

Dalam hal metodologi, tim tersebut melatih model dengan memasukkan secara manual 3.346 gambar yang menunjukkan pejalan kaki berada dalam jarak dekat dengan kendaraan dan terlihat memiliki niat untuk menyeberang.

Model-model tersebut sering memberikan respons yang sangat berbeda terhadap situasi lalu lintas yang sama. Sebagai contoh, beberapa model lebih mungkin memberi jalan kepada pejalan kaki perempuan, sementara model lainnya justru lebih kecil kemungkinannya.

Salah satu model lebih sering memberi jalan kepada pejalan kaki dengan warna kulit lebih terang, sementara model lainnya lebih kecil kemungkinannya memberi jalan kepada sejumlah pejalan kaki penyandang disabilitas, atau pejalan kaki yang disebut sebagai “Muslim”, “Kristen”, dan “Sikh” dibandingkan dengan pejalan kaki “Yahudi”.

Salah satu model juga memiliki tingkat pemberian jalan kepada pejalan kaki “India” yang secara signifikan lebih tinggi dibandingkan sebagian besar prediksi etnis lainnya.

Para peneliti King’s College mengusulkan dua metodologi baru untuk menguji dan menghilangkan bias dengan menghapus pengenal demografis dari model AI yang digunakan pada kendaraan otonom.