Ilmuwan Ini Memperingatkan Manusia Jangan Sampai Terlambat Menyadari Ancaman AI

Menurut Hinton, bahkan chatbot terbesar hanya memiliki sekitar satu triliun koneksi di dalamnya, sedangkan otak manusia memiliki sekitar 100 triliun.

"Namun, dari triliunan koneksi di chatbot, ia mengetahui jauh lebih banyak daripada yang Anda ketahui dalam seratus triliun koneksi Anda, yang menunjukkan bahwa ia memiliki cara yang jauh lebih baik untuk memasukkan pengetahuan ke dalam koneksi tersebut," ujarnya.

Hinton mengatakan, para ilmuwan merancang algoritma pembelajaran bagi AO. Itu seperti merancang prinsip evolusi. Namun ketika algoritma pembelajaran ini kemudian berinteraksi dengan data, menghasilkan jaringan saraf rumit yang mampu melakukan sesuatu dengan baik.

"Namun kami tidak benar-benar memahami bagaimana mereka melakukan hal-hal tersebut," terangnya.

Dia menjelaskan, salah satu cara sistem ini lepas kendali adalah dengan menulis kode komputernya sendiri untuk memodifikasi dirinya sendiri.
Halaman Selanjutnya....