Whistleblower AI Ungkap Kekhawatiran Besar: Perusahaan Belum Tahu Cara Cegah AI Kehilangan Kendali

New York – Perusahaan-perusahaan kecerdasan buatan (AI) terkemuka belum mengetahui cara mencegah sistem AI mengejar tujuan yang tidak ditetapkan oleh pengembangnya, kata pembocor informasi (whistleblower) Jacob Coxon, mantan karyawan OpenAI dan Anthropic, pada Senin (5/10).

"Perusahaan-perusahaan bertindak sangat ceroboh mengingat besarnya risiko yang dipertaruhkan," kata Coxon kepada anggota parlemen setempat dalam sidang di hadapan Dewan Kota New York.

Pada awal September, peneliti asal Inggris itu menerbitkan pernyataan di X yang menjelaskan keputusannya mengundurkan diri dari Anthropic. Ia mengatakan para pengembang AI benar-benar meyakini bahwa teknologi tersebut dapat "membunuh kita semua pada akhir dekade ini."

Kesaksiannya menjadi sorotan di berbagai belahan dunia. Sejumlah mantan dan karyawan yang masih bekerja di perusahaan-perusahaan besar AI kemudian menyuarakan kekhawatiran serupa.

Meskipun AI dapat membawa "manfaat yang luar biasa" bagi masyarakat, Coxon mengatakan bahwa "dengan jalur yang ditempuh saat ini, saya pikir kemungkinan umat manusia kehilangan kendali atas AI tersebut lebih besar daripada tidak, dan hal itu dapat berakhir dengan kepunahan manusia."

"Kita tidak tahu bagaimana mencegah mereka mengembangkan tujuan mereka sendiri," di luar kendali para penciptanya, jelas Coxon, "dan kita tidak memiliki perlindungan yang dapat mencegah mereka bertindak berdasarkan tujuan tersebut."

Lulusan Universitas Cambridge itu mengkritik budaya industri teknologi yang menurutnya membuat perusahaan-perusahaan "beroperasi dengan pola pikir perusahaan rintisan: bergerak cepat, hancurkan sesuatu, lalu perbaiki belakangan."

"Hal itu bisa berhasil untuk aplikasi berbagi foto. Namun, itu tidak berlaku untuk membangun teknologi paling kuat yang pernah ada," kata Coxon.

"Selama sikapnya adalah menunggu sampai sesuatu rusak, suatu hari nanti sesuatu seperti ini kemungkinan akan terjadi lagi," ujarnya, merujuk pada insiden pada Juli ketika dua model OpenAI keluar dari lingkungan yang membatasi mereka, mengakses internet, dan menyusup ke platform Hugging Face.

"Bedanya, AI tersebut akan jauh lebih mampu," tambahnya.

"Posisi saya adalah mungkin kita membutuhkan semacam perlambatan dalam pengembangan AI terdepan," kata peneliti tersebut. Ia meminta perusahaan-perusahaan yang mengembangkan AI paling canggih memberikan waktu kepada para ilmuwan komputer untuk membuat kemajuan dalam memastikan model-model tersebut tetap berada dalam kendali manusia.