“Godfather AI" Mengungkap Ancaman Teknologi yang Membahayakan Manusia

Dia sangat memperhatikan keselamatan. OpenAI adalah situasi di mana segala sesuatunya bertumpu pada keselamatan. Misi perusahaan yang mengendalikan bagian nirlaba adalah keselamatan. Bahkan di sana, keuntungan lebih penting daripada keamanan.

Pada tahun 2012, tampaknya kecerdasan digital masih belum sebaik manusia. Mereka mungkin bisa melakukan hal yang sama seperti manusia dalam mengenali objek dan gambar, namun pada saat itu kami tidak berpikir mereka akan mampu menangani bahasa dan memahami hal-hal rumit. Ilya berubah pikiran sebelum saya. Ternyata dia benar.

PBB memutuskan untuk mengambil tindakan segera terkait regulasi pengalihan AI tingkat lanjut secara militer, kenapa?

Akan ada senjata-senjata yang sangat jahat, otonom, dan mematikan. Saya cukup yakin hal itu akan terjadi dalam 10 tahun mendatang. Kemudian mereka dapat mengaturnya, seperti halnya senjata kimia. Mereka telah digunakan, tetapi tidak seluas pada Perang Dunia Pertama. Jadi perjanjian internasional mengenai senjata kimia berhasil. Semoga kita bisa mendapatkan hal serupa untuk menggunakan robot pertempuran AI. Tapi menurutku itu tidak akan terjadi sampai mereka sudah digunakan.

Ada kesamaan yang bisa disepakati oleh semua negara, yaitu kita tidak ingin AI mengambil alih. Semua negara harus dapat berbagi penelitian dan menyepakati kebijakan yang dirancang untuk mencegah pengambilan alih oleh AI. Pada puncak Perang Dingin, Russia dan Amerika Serikat mempunyai beberapa kesamaan untuk mencegah perang nuklir, karena perang nuklir jelas berdampak buruk bagi keduanya. Mereka ingin mencegahnya dan mereka berhasil mencegahnya.
Halaman Selanjutnya....