Para Ahli Berdebat soal Perkembangan AI yang Ancam Kepunahan Manusia

PARIS - Filosofi populer dari pusat industri IT Amerika Serikat, Silicon Valley, "jangka panjang" (gagasan bahwa manusia dapat ditingkatkan dengan teknologi) telah mendorong perdebatan mengenai kecerdasan buatan atau artificial intelligence (AI) seputar gagasan kepunahan manusia.

Dikutip dari The Straits Times, para kritikus yang semakin vokal memperingatkan bahwa filosofi tersebut berbahaya, dan obsesi terhadap kepunahan mengalihkan perhatian dari masalah nyata yang terkait dengan AI seperti pencurian data dan algoritma yang bias.

Penulis Human Extinction: A History of the Science and Ethics of Annihilation, Emile Torres, yang juga mantan aktivis "jangka panjang" yang menjadi kritikus gerakan tersebut, kepada AFP mengatakan filosofi tersebut bertumpu pada prinsip-prinsip yang digunakan di masa lalu untuk membenarkan pembunuhan massal dan genosida.

Namun, gerakan dan ideologi terkait seperti transhumanisme dan altruisme efektif mempunyai pengaruh besar di universitas-universitas mulai dari Oxford hingga Stanford dan di seluruh sektor teknologi.

Pemodal ventura seperti Peter Thiel dan Marc Andreessen telah berinvestasi di perusahaan perpanjangan hidup dan proyek lain terkait dengan gerakan ini.

Elon Musk dan Sam Altman dari OpenAI telah menandatangani surat terbuka yang memperingatkan AI dapat membuat umat manusia punah, meskipun mereka mendapat manfaat dengan berargumentasi bahwa hanya produk mereka yang dapat menyelamatkan manusia.

Perdebatan Publik

Pada akhirnya, para kritikus mengatakan gerakan pinggiran ini memiliki pengaruh yang terlalu besar terhadap perdebatan publik mengenai masa depan umat manusia.

Para penganut paham jangka panjang percaya kita mempunyai kewajiban untuk mencoba memberikan hasil terbaik bagi sebanyak mungkin orang.

Hal ini tidak berbeda dengan kaum liberal abad ke-19, namun kelompok jangka panjang mempunyai jangka waktu yang lebih panjang.

Mereka melihat ke masa depan yang jauh dan melihat triliunan demi triliunan manusia melayang di angkasa, menjajah dunia-dunia baru.

Mereka berpendapat setiap orang mempunyai kewajiban yang sama terhadap manusia di masa depan seperti yang dilakukan terhadap siapa pun yang hidup saat ini. Dan karena jumlahnya sangat banyak, bobotnya jauh lebih besar daripada spesimen masa kini.

Menurut Torres, pemikiran seperti ini membuat ideologi tersebut "sangat berbahaya".

"Kapan pun Anda memiliki visi utopis tentang masa depan yang ditandai dengan jumlah nilai yang hampir tak terbatas, dan Anda menggabungkannya dengan cara berpikir moral utilitarian di mana tujuan dapat menghalalkan cara, hal itu akan berbahaya," kata Torres.

"Jika sebuah mesin super cerdas segera muncul dan berpotensi menghancurkan umat manusia, para penganut paham jangka panjang pasti akan menentangnya, apa pun konsekuensinya," ujar dia.