Direksi OpenAI Peringatkan Industri Belum Siap Cegah Kehilangan Kendali Atas Kecerdasan Buatan

ASI sendiri biasanya digunakan untuk menggambarkan AI yang kemampuannya jauh melampaui manusia dalam berbagai bidang. Perkiraan mengenai kapan teknologi tersebut dapat tercapai sangat beragam, mulai dari beberapa tahun hingga lebih dari satu dekade.

Hubinger bahkan mengatakan ada kemungkinan lebih dari 10 persen bahwa teknologi tersebut dapat “membunuh semua manusia” dalam dekade berikutnya.

Pernyataan itu kemudian mendapat perhatian dari Geoffrey Hinton, ilmuwan komputer peraih Nobel yang kerap disebut sebagai salah satu “bapak pendiri AI”.

Ketika ditanya BBC Newsnight mengenai perkiraan tersebut, Hinton mengatakan tidak ada seorang pun yang benar-benar tahu bagaimana memperkirakan risikonya. Menurut dia, peluang 10 persen bukanlah perkiraan yang tidak masuk akal.

Peneliti Mundur dan Sebut Perusahaan “Bertaruh dengan Hidup Kita”

Kekhawatiran mengenai perkembangan AI juga diperkuat oleh keputusan Jacob Coxon, peneliti Anthropic berusia 27 tahun yang sebelumnya juga bekerja di OpenAI.

Coxon mengundurkan diri karena menilai kedua perusahaan belum bertindak secara bertanggung jawab dan “bertaruh dengan hidup kita”.

Namun, ia menegaskan bahwa menurutnya saat ini belum ada risiko kepunahan manusia akibat AI.

“Model-model saat ini, paling buruk yang dapat mereka lakukan mungkin adalah meretas sesuatu, berpotensi menyebabkan banyak kerusakan… pada infrastruktur,” kata Coxon dalam wawancara dengan CNN pada Rabu malam.

Ia menilai AI saat ini masih belum cukup cerdas untuk mengalahkan manusia hingga berada pada tingkat yang dapat menyebabkan kepunahan.

Yang membuatnya khawatir adalah kecepatan perkembangan teknologi tersebut.

Coxon memperingatkan adanya kemungkinan dalam waktu dekat, bahkan tahun depan atau tahun berikutnya, AI mulai mengalami peningkatan kemampuan secara rekursif. Jika hal itu terjadi, menurutnya, perkembangan AI dapat memasuki fase yang jauh lebih sulit dikendalikan.

Anthropic Ungkap Insiden Model Claude