Dua Tantangan Menggunakan AI untuk Pendidikan Inklusif di Indonesia

Ini menimbulkan risiko terabaikannya karakteristik dan kebutuhan kelompok pengguna dari wilayah yang kurang terjangkau secara digital. Padahal guna memperkecil kesenjangan, AI seharusnya digunakan untuk mendorong mobilitas dua arah antara tenaga pendidik di wilayah urban dengan di pedesaan.

Selain itu, karena AI sangat bergantung pada training data, keberagaman dan keterwakilan data menjadi krusial. Sistem AI umumnya dilatih menggunakan data dari populasi umum, tanpa mempertimbangkan variasi kebutuhan khas anak dengan disabilitas. Akibatnya, output yang dihasilkan cenderung kurang relevan atau bahkan tidak sesuai dengan konteks mereka.

Ketika data pelatihan tidak mewakili populasi secara inklusif—terutama siswa dari latar belakang sosial, budaya, atau geografis berbeda—sistem AI berpotensi menghasilkan output yang bias, atau bahkan diskriminatif. Dalam konteks pendidikan inklusif, risiko ini menjadi sangat serius karena dapat memperlebar kesenjangan.

Ketika kelompok tertentu (misalnya kelompok minoritas) kurang terwakili dalam data, model AI mungkin gagal memberikan hasil yang adil.

Inggris pernah mengalami ini pada tahun 2020. Saat itu, pemerintah Inggris membatalkan ujian akhir SMA karena pandemi COVID-19. Sebagai gantinya, guru diminta memberikan prediksi nilai siswa berdasarkan performa akademis mereka. Nilai ini kemudian disesuaikan oleh Ofqual (lembaga pengatur ujian) dengan menggunakan algoritma berbasis AI yang dirancang untuk mempertimbangkan rekam jejak sekolah.

Namun, karena Ofqual menggunakan AI yang hanya dilatih dengan data sekolah-sekolah di kota, hasil prediksi nilai tersebut menjadi bias dan tidak adil—terutama bagi siswa dari sekolah-sekolah di daerah pedesaan atau sekolah dengan performa historis yang lebih rendah. Model AI mengasumsikan bahwa sekolah-sekolah tersebut cenderung menghasilkan nilai rendah secara konsisten.

Hasilnya, sekitar 40% nilai mengalami penurunan dari prediksi guru, sementara hanya 2% yang meningkat. Siswa berprestasi dari sekolah kurang mampu paling terdampak, sedangkan siswa dari sekolah elite cenderung diuntungkan.

Kasus ini menunjukkan bahwa AI memang tidak netral sejak awal. Ketika model AI belajar dari data historis yang tidak seimbang atau menyimpan ketimpangan sosial sebelumnya, maka ia akan memperkuat ketimpangan tersebut dengan mereplikasinya.

Bila model AI dilatih dengan data yang tidak representatif (misalnya hanya dari sekolah-sekolah unggulan), ia akan mengabaikan keragaman konteks sosial dan merugikan kelompok tertentu. Ini adalah contoh nyata bagaimana ketimpangan digital dan bias dalam data pelatihan AI dapat menciptakan ketidakadilan.

Berpotensi membebani, bukan membantu

Selain bias algoritma, rendahnya literasi digital juga menjadi tantangan nyata, baik bagi murid maupun guru. Banyak guru belum terbiasa memanfaatkan teknologi canggih, seperti AI dalam proses pembelajaran. Sehingga, AI justru berpotensi menjadi beban tambahan, alih-alih menjadi alat bantu.

Untuk membekali para pendidik agar mampu memanfaatkan AI secara efektif, diperlukan program pelatihan guru yang komprehensif dan berfokus pada keterampilan teknis, kesadaran etis, serta adaptasi pedagogis.

Pada akhirnya, keberhasilan penerapan AI di sektor pendidikan sangat bergantung pada bagaimana teknologi ini digunakan untuk menciptakan kesempatan belajar yang adil dan merata. Artinya, jaminan atas keadilan dan pemerataan ini perlu mendapat perhatian serius, agar AI tidak hanya menjadi simbol kemajuan teknologi, tetapi benar-benar berfungsi sebagai alat transformasi pendidikan yang inklusif.