Para Ahli Berdebat soal Perkembangan AI yang Ancam Kepunahan Manusia

Mereka melihat ke masa depan yang jauh dan melihat triliunan demi triliunan manusia melayang di angkasa, menjajah dunia-dunia baru.

Mereka berpendapat setiap orang mempunyai kewajiban yang sama terhadap manusia di masa depan seperti yang dilakukan terhadap siapa pun yang hidup saat ini. Dan karena jumlahnya sangat banyak, bobotnya jauh lebih besar daripada spesimen masa kini.

Menurut Torres, pemikiran seperti ini membuat ideologi tersebut "sangat berbahaya".

"Kapan pun Anda memiliki visi utopis tentang masa depan yang ditandai dengan jumlah nilai yang hampir tak terbatas, dan Anda menggabungkannya dengan cara berpikir moral utilitarian di mana tujuan dapat menghalalkan cara, hal itu akan berbahaya," kata Torres.

"Jika sebuah mesin super cerdas segera muncul dan berpotensi menghancurkan umat manusia, para penganut paham jangka panjang pasti akan menentangnya, apa pun konsekuensinya," ujar dia.
Halaman Selanjutnya....