Raksasa AI Kerja Sama Bentuk Badan Keamanan

WASHINGTON DC - Perusahaan-perusahaan teknologi kecerdasan buatan (AI) terbesar di dunia saat ini sedang berupaya menciptakan badan standar, kata OpenAI, pembuat ChatGPT, pada Selasa (15/9). Pernyataan itu dilontarkan seiring meningkatnya kekhawatiran tentang bahaya AI dan tekanan untuk menciptakan versi teknologi yang lebih aman.

OpenAI mengatakan pihaknya bekerja sama dengan Anthropic dan Google dalam sebuah ide yang berasal dari proposal Demis Hassabis dari Google DeepMind untuk sebuah model badan regulasi mandiri.

Pada Juli lalu, Hassabis menyerukan agar Amerika Serikat (AS) menciptakan sebuah organisasi yang akan menguji sistem AI paling canggih sebelum dirilis ke publik.

"Pendanaan perlu substansial dan kemungkinan besar sebagian besar berasal dari industri, untuk menarik talenta teknis kelas dunia dan menyediakan sumber daya komputasi yang diperlukan untuk pengujian skala besar," tulis Hassabis. 

Pada Selasa, CEO OpenAI, Sam Altman, menyatakan dukungannya untuk kolaborasi di seluruh industri dan mengakui kekhawatiran publik bahwa persaingan antar perusahaan dan negara dapat mengesampingkan keselamatan.

"Saya pikir ini bagus untuk industri kita untuk mengatakan bahwa kita ingin bersatu dan kita ingin dapat berkoordinasi dan memastikan kita memiliki cukup waktu untuk melakukan ini dengan aman," kata Altman pada konferensi yang diselenggarakan oleh Salesforce di San Francisco.

"Ketika ada indikasi bahwa beberapa orang di industri ini mungkin tidak melakukan hal yang benar, saya pikir saat itulah orang-orang menjadi sangat takut," imbuh Altman.

Kekhawatiran tentang keamanan AI telah meningkat dalam beberapa pekan terakhir, termasuk peringatan dari para pekerja yang mengundurkan diri dari perusahaan AI besar di tengah kekhawatiran tentang risiko industri tersebut.

Pekan lalu, peneliti Jacob Coxon meninggalkan Anthropic dan memperingatkan bahwa perusahaan AI sedang mempertaruhkan hidup kita semua. Coxon sebelumnya juga bekerja di OpenAI.

Pada Senin (14/9) lalu, mantan peneliti Google DeepMind, Bilal Chughtai, juga menggaungkan kekhawatiran yang diangkat oleh Coxon dan lainnya. "Saya sungguh percaya bahwa AI berpotensi membunuh kita semua, dan kita mungkin kehabisan waktu untuk menghindari hasil ini," tulis Chughtai di media sosial.

Perlambatan

Pada Sabtu (12/9) lalu, CEO Anthropic, Dario Amodei, menyerukan perlambatan laju pengembangan AI, sebuah sentimen yang didukung oleh CEO OpenAI, Sam Altman, Elon Musk, dan Hassabis.

Senator AS, Bernie Sanders, yang khawatir akan konsekuensi bencana dari AI, mengatakan bahwa para pemimpin teknologi tidak dapat dipercaya untuk menepati janji untuk memperlambat pengembangan atau menetapkan standar keselamatan.

"Ketika masa depan umat manusia dipertaruhkan, kita membutuhkan aturan keselamatan internasional yang mengikat, bukan standar sukarela dari industri," kata Sanders dalam sebuah acara keselamatan AI di Washington.

Altman memperingatkan bahwa malapetaka AI, baik kecil maupun besar, mungkin tidak dapat dihindari. "Malapetaka yang terjadi dengan teknologi baru apa pun tidak dapat dihindari, dan kita harus memiliki budaya pelaporan yang transparan tentang hal tersebut," ucap Altman.

"Dengan belajar dari kejadian-kejadian tersebut dengan cepat dan beradaptasi saat terjadi, saya pikir hal itu akan bermanfaat bagi industri kita, dan mungkin kita dapat menghindari insiden yang lebih besar dan berpotensi menimbulkan bencana,” pungkas Altman. AFP/I-1