Apakah AI telah Meretas Sistem Operasi Peradaban Manusia?

Namun, Nexus bukan hanya tentang sejarah jaringan. Buku ini mengingatkan tentang bahaya yang bakal datang dari jaringan paling canggih dan berkembang pesat saat ini: AI dan bentuk teknologi digital lainnya.

Kritik Harari terhadap AI begitu tegas. Ia melihat AI sebagai jenis kecerdasan baru-yang ia sebut "kecerdasan alien"-berpotensi beroperasi di luar kendali manusia.

Di sinilah tema utama buku ini menjadi sangat mendesak. Jaringan yang selama ini telah melayani umat manusia, memungkinkan tingkat kerja sama dan kemajuan yang belum pernah terjadi sebelumnya, kini berisiko menjadi terlalu rumit dan tidak dapat dikelola sepenuhnya oleh manusia.

Harari mengingatkan bahwa AI bukan hanya alat, tapi juga entitas yang dapat mengambil keputusan dan menghasilkan pengetahuan baru secara mandiri. Kemunculannya dapat mengubah struktur masyarakat manusia secara fundamental. Inilah sebabnya Harari berpendapat bahwa dunia sangat membutuhkan regulasi dan pengawasan terhadap AI.

Analisis AI dalam Nexus dibangun Harari berdasarkan pelajaran sejarah. Dia menggunakan contoh-contoh, mulai dari mitos kuno hingga kemajuan teknologi terkini.

Ia memberikan contoh seperti AlphaGo, pada 2016 sebagai AI pertama yang mampu mengalahkan Lee Sedol. Lee adalah juara dunia permainan Go, sebuah permainan papan strategis yang selama ribuan tahun dianggap sebagai domain kreativitas manusia.

Contoh ini memperlihatkan bahwa AI kini telah melampaui batas pemahaman manusia. Bahkan, para pencipta AlphaGo tidak dapat sepenuhnya menjelaskan beberapa langkah yang diambil oleh AI tersebut.

Sifat "asing" AI ini, yang menurut Harari berbeda dengan penemuan manusia sebelumnya seperti mesin uap atau komputer. AI telah menghadirkan tantangan baru. Tidak jelas apakah manusia akan dapat mempertahankan kendali atas sistem yang telah mereka ciptakan ini.

AI, kekuasaan, dan masa depan jaringan manusia

Dengan gaya khasnya, Harari menghubungkan tema ini dengan masalah politik dan sosial yang lebih luas, terutama kebangkitan otoritarianisme dan populisme.

Ia berargumen bahwa semakin besar peran AI dalam proses pengambilan keputusan, mulai dari menentukan siapa yang mendapatkan pinjaman hingga siapa yang menjadi target dalam serangan militer, semakin terkikis pula transparansi dan akuntabilitas.

Ini bisa menjadi ancaman bagi demokrasi. Sebab, warga mungkin tidak lagi bisa memahami atau menantang kekuatan yang membentuk kehidupan mereka.

Selain itu, Harari menyinggung potensi kepunahan manusia. Meskipun sebelum hal tersebut terjadi, ia membayangkan masa depan jaringan yang didorong oleh AI memperparah ketidaksetaraan dengan perusahaan teknologi besar. Pemerintah pun bisa menggunakan AI untuk mengkonsolidasikan kekuasaan atas informasi dan sumber daya.