'Kecerdasan Umum Buatan' Akan Menjadi Fase Selanjutnya dari Kecerdasan Buatan

Jendela peluang untuk kekhawatiran semacam itu cukup singkat, hanya dalam beberapa generasi AGI pertama. Hanya selama periode itu manusia akan memiliki kendali langsung atas AGI sehingga mereka tanpa ragu akan melakukan perintah kita. Selanjutnya, AGI akan menetapkan tujuan untuk keuntungan mereka sendiri yang mencakup eksplorasi dan pembelajaran dan tidak perlu menyertakan konflik apa pun dengan kemanusiaan.

Faktanya, kecuali energi, AGI dan kebutuhan manusia sebagian besar tidak berhubungan.

"AGI tidak membutuhkan uang, kekuasaan, wilayah, dan bahkan tidak perlu mengkhawatirkan kelangsungan hidupnya masing-masing dengan cadangan yang sesuai, AGI dapat secara efektif abadi, terlepas dari perangkat keras apa pun yang sedang dijalankannya," katanya.

"Namun, untuk sementara itu, ada risiko.Dan selama risiko tersebut ada, menjadi yang pertama mengembangkan AGI harus menjadi prioritas utama," tutup Simon.