Ilmuwan Ini Memperingatkan Manusia Jangan Sampai Terlambat Menyadari Ancaman AI

Dia menjelaskan, salah satu cara sistem ini lepas kendali adalah dengan menulis kode komputernya sendiri untuk memodifikasi dirinya sendiri.

"Dan itu adalah sesuatu yang perlu kita khawatirkan secara serius," katanya.

Dia melanjutkan, AI bisa memanipulasi orang, dan hal ini akan sangat baik dalam meyakinkan orang karena mereka telah belajar dari semua novel yang pernah ditulis, semua buku dan semua rahasia politik.

"Mereka akan mengetahui semua hal itu. Mereka akan tahu bagaimana melakukannya," terangnya.

Hinton mengatakan, AI memberikan manfaat besar adalah layanan kesehatan, sudah sebanding dengan ahli radiologi dalam memahami apa yang terjadi pada gambar medis. Ini akan sangat bagus dalam merancang obat.

"Mereka sudah merancang obat-obatan. Jadi itu adalah area dimana hampir seluruhnya akan membawa kebaikan. Saya suka itu," tuturnya.

Namun ia memperingatkan AI dapat merebut pekerjaan manusia dengan risiko adanya sekelompok orang yang menganggur dan tidak terlalu dihargai karena apa yang mereka dulu lakukan kini, dilakukan oleh mesin.

"Risiko lain yang ia khawatirkan adalah berita palsu, bias yang tidak diinginkan dalam pekerjaan dan kepolisian, serta robot otonom di medan perang," ungkapnya.

Hinton mengaku tidak tahu cara untuk menjamin keselamatan dari dampak buruk AI. Menurutnya, manusia sedang memasuki masa ketidakpastian besar dimana akan menghadapi hal-hal yang belum pernah tangani sebelumnya.

"Dan biasanya, pertama kali Anda menghadapi sesuatu yang benar-benar baru, Anda salah. Dan kita tidak boleh salah dalam hal ini," tegasnya.

"Saya tidak mengatakan hal itu akan terjadi. Jika kita bisa menghentikan keinginan mereka, itu akan sangat bagus. Namun tidak jelas apakah kita bisa menghentikan keinginan mereka," ungkapnya.

Hinton mengatakan bahwa dia tidak menyesal atas potensi kebaikan yang dimiliki AI. Namun ia mengatakan sekarang adalah saat yang tepat untuk melakukan eksperimen guna memahami AI, bagi pemerintah untuk menerapkan peraturan, dan bagi perjanjian dunia yang melarang penggunaan robot militer.

Dia mengingatkan pada Robert Oppenheimer yang setelah menemukan bom atom, berkampanye menentang bom hidrogen, seorang pria yang mengubah dunia dan mendapati dunia berada di luar kendalinya.