Ahli Matematika Dunia Serukan Perlawanan terhadap Hype AI, Sebut Klaim Berlebihan Bisa Menyesatkan

PARIS - Puluhan ahli matematika pada Selasa (2/6) menandatangani sebuah deklarasi yang menyerukan agar disiplin ilmu matematika tidak ikut mendorong promosi berlebihan terhadap pengembang kecerdasan buatan (AI).

“Deklarasi Leiden” tersebut didukung lebih dari 150 profesor dari berbagai belahan dunia, termasuk Eropa, Jepang, dan Amerika Serikat. Mereka memperingatkan pemerintah agar tidak mudah “percaya pada hype” mengenai kemampuan matematika dari sistem AI.

Langkah ini muncul setelah perusahaan-perusahaan AI mengklaim peningkatan kemampuan signifikan, termasuk performa dalam kompetisi internasional tingkat tinggi serta dugaan kemampuan menyelesaikan persoalan terbuka yang kompleks dalam bidang matematika.

Wakil Presiden International Mathematical Union (IMU), Ulrike Tillmann, dalam pernyataan dukungannya mengatakan bahwa AI “membuka peluang baru yang menarik, tetapi juga memunculkan pertanyaan yang tidak boleh diabaikan”.

Ia menegaskan bahwa “masa depan penelitian matematika harus dipandu oleh penilaian manusia, praktik yang adil dan transparan, serta nilai-nilai bersama komunitas matematika global”.

Dalam deklarasi tersebut juga disebutkan bahwa pengembang AI memiliki “insentif komersial yang kuat untuk melebih-lebihkan kemampuan produk mereka”.

Peluncuran klaim AI yang mengikuti “timeline pasar” alih-alih proses ilmiah yang ditinjau sejawat dinilai dapat “menyesatkan dengan menggunakan tugas matematika tertentu sebagai metrik kemampuan penalaran umum model komersial”.

Dengan ratusan miliar dolar investasi yang diperebutkan, perusahaan-perusahaan teknologi disebut berlomba-lomba menampilkan AI sebagai teknologi yang sangat canggih.

Profesor Universitas Columbia, Michael Harris, salah satu penulis deklarasi, mengatakan bahwa industri AI tengah berada dalam “persaingan yang sangat ketat antar laboratorium utama” untuk menarik investasi melalui klaim berbasis matematika.

“Semua pihak berusaha menggunakan matematika untuk menarik investasi agar mereka bisa bertahan dalam persaingan,” ujarnya kepada AFP.

Dalam beberapa waktu terakhir, sejumlah perusahaan seperti SpaceX—yang memiliki afiliasi dengan perusahaan AI xAI milik Elon Musk—serta Anthropic disebut mulai mendekati pasar saham, sementara OpenAI juga dikabarkan tengah bersiap mengikuti langkah serupa.

Minggu sebelumnya, OpenAI juga merilis video di media sosial yang menampilkan profesor UCLA dan peraih Fields Medal, Terence Tao, yang memuji potensi produk mereka dalam mendukung riset.

Namun, Harris mengkritik kecenderungan tersebut dengan mengatakan bahwa tidak sehat jika komunitas matematika terus mengandalkan satu sosok sebagai “suara utama matematika”.

Selain risiko komersialisasi, para penulis deklarasi juga memperingatkan bahwa sistem AI dapat menghasilkan bukti matematika yang tampak benar namun sebenarnya salah dan sulit diverifikasi manusia.

Mereka juga menyoroti potensi terganggunya atribusi ilmiah, di mana kontribusi peneliti asli menjadi tidak jelas karena hasil kerja mereka digunakan oleh sistem AI.

Para peneliti khawatir meningkatnya penggunaan AI dalam matematika dapat mendorong riset yang ikut-ikutan tren, melemahkan sistem peer review, serta menggeser arah penelitian dari kebebasan akademik menjadi kepentingan pengembang AI.

Selain itu, mereka juga menyinggung potensi dampak negatif AI dalam bentuk “peperangan, pengawasan massal, gangguan politik, dan kerusakan lingkungan”.

Dalam penutupnya, para penandatangan menyerukan agar para matematikawan menilai dampak etis dari penelitian mereka dan, jika perlu, menarik diri dari pekerjaan yang berpotensi berbahaya.