'Kecerdasan Umum Buatan' Akan Menjadi Fase Selanjutnya dari Kecerdasan Buatan

Jelas, upaya awal AGI akan mencakup beberapa keputusan yang buruk, seperti halnya orang yang tidak berpengalaman.Tetapi dalam keputusan yang melibatkan informasi dalam jumlah besar yang harus diseimbangkan, dan prediksi dengan banyak variabel, kemampuan komputer, yang digabungkan dengan pelatihan dan pengalaman bertahun-tahun, akan menjadikan mereka pengambil keputusan strategis yang unggul.

Secara bertahap, komputer AGI akan memiliki kendali atas bagian yang semakin besar dari masyarakat, bukan karena paksaan tetapi karena kita mendengarkan nasihat mereka dan mengikutinya. Mereka juga akan mampu mempengaruhi opini publik melalui media sosial, memanipulasi pasar, dan menjadi lebih kuat dalam terlibat dalam jenis penipuan yang saat ini dilakukan oleh peretas manusia saat ini.

AGI akan menjadi sistem yang digerakkan oleh tujuan dengan cara yang sama seperti manusia.Sementara tujuan manusia telah berevolusi melalui tantangan bertahan hidup selama ribuan tahun, tujuan AGI dapat diatur menjadi apapun yang kita suka.Di dunia yang ideal, tujuan AGI akan ditetapkan untuk kepentingan umat manusia secara keseluruhan.

Tetapi bagaimana jika mereka yang pada awalnya mengendalikan AGI bukanlah orang yang baik hati yang mencari kebaikan yang lebih besar? Bagaimana jika pemilik pertama dari sistem yang kuat ingin menggunakannya sebagai alat untuk menyerang sekutu kita, mengondisikan keseimbangan kekuatan yang ada, atau mengambil alih dunia? Bagaimana jika seorang lalim menguasai AGI seperti itu? Ini jelas akan menimbulkan skenario yang sangat berbahaya yang harus mulai direncanakan oleh Barat untuk saat ini.

Meskipun kita dapat memprogram motivasi AGI awal, motivasi orang atau perusahaan yang membuat AGI tersebut berada di luar kendali kami. Dan mari kita hadapi itu: individu manusia, bangsa, dan bahkan perusahaan secara historis telah mengorbankan kebaikan bersama jangka panjang demi kekuasaan dan kekayaan jangka pendek.
Halaman Selanjutnya....