Perlombaan AI Dinilai Ancam Masa Depan Umat Manusia

NEW DELHI - Peneliti Teknologi Informasi terkemuka, Stuart Russell pada hari Selasa (17/2), memperingatkan bahwa para CEO perusahaan teknologi yang terjebak dalam "perlombaan senjata" kecerdasan buatan (AI), berisiko dapat memusnahkan umat manusia, seraya menyerukan pemerintah untuk menghentikan laju perlombaan tersebut.

Dikutip dari The Straits Times, Profesor Russell, yang mengajar di University of California, Berkeley, mengatakan para pemimpin perusahaan AI terbesar dunia memahami bahaya sistem supercerdas yang suatu hari dapat melampaui kemampuan manusia.

Menurutnya, tanggung jawab untuk menyelamatkan umat manusia berada di tangan para pemimpin dunia yang mampu mengambil tindakan kolektif.

“Membiarkan entitas swasta pada dasarnya bermain ‘rolet Russia’ dengan seluruh manusia di bumi adalah bentuk kelalaian total pemerintah,” ujar Russell, yang dikenal sebagai salah satu suara utama dalam isu keselamatan AI.

Negara dan perusahaan saat ini menggelontorkan ratusan miliar dollar untuk membangun pusat data berdaya listrik besar guna melatih dan menjalankan teknologi AI generatif.

Teknologi yang berkembang pesat ini menjanjikan manfaat seperti penemuan obat baru, tetapi juga berpotensi menyebabkan kehilangan pekerjaan, meningkatkan pengawasan, serta mempermudah penyalahgunaan daring dan berbagai ancaman lain.

Selain itu, terdapat risiko “sistem AI mengambil kendali sendiri dan peradaban manusia menjadi korban sampingan dalam proses tersebut,” kata Russell dalam wawancara di AI Impact Summit di New Delhi.

Ia menilai setiap CEO perusahaan AI sebenarnya ingin memperlambat perlombaan tersebut, namun tidak dapat melakukannya secara sepihak karena tekanan investor.

“Sebagian dari mereka mengatakannya secara terbuka dan sebagian lagi menyampaikannya kepada saya secara pribadi,” ujarnya, seraya menambahkan bahwa bahkan Sam Altman, pimpinan pembuat ChatGPT yaitu OpenAI, pernah menyatakan secara terbuka bahwa AI berpotensi menyebabkan kepunahan manusia.

OpenAI dan perusahaan rintisan AS pesaingnya, Anthropic, juga mengalami pengunduran diri sejumlah karyawan yang menyuarakan kekhawatiran etika. Pekan lalu, Anthropic memperingatkan bahwa model chatbot terbarunya berpotensi diarahkan untuk “secara sadar mendukung, dalam skala kecil, upaya pengembangan senjata kimia dan kejahatan berat lainnya”.

Peniru manusia

Pertemuan internasional seperti KTT AI pekan ini dinilai menjadi peluang untuk mendorong regulasi, meski tiga edisi sebelumnya hanya menghasilkan kesepakatan sukarela dari perusahaan teknologi.

“Penting agar setiap pemerintah memahami persoalan ini, dan itulah alasan saya hadir,” kata Russell.

India berharap konferensi AI selama lima hari yang dihadiri para bos teknologi dan puluhan delegasi tingkat tinggi itu dapat mempercepat kemajuan sektor tersebut. Menteri Teknologi Informasi India, Ashwini Vaishnaw, mengatakan negaranya memperkirakan investasi AI lebih dari 200 miliar dollar AS dalam dua tahun ke depan, termasuk sekitar 90 miliar dollar AS yang telah dikomitmenkan.