AI Makin Cerdas dan Sulit Dikendalikan, Mantan Pegawai OpenAI Serukan Pengamanan Berlapis

New York - Seorang mantan pegawai OpenAI lainnya turut menyuarakan seruan mendesak agar kecerdasan buatan (AI) dibuat lebih aman. Ia mengatakan industri AI harus meniru sektor penerbangan atau energi nuklir yang memiliki lapisan pengamanan untuk mencegah terjadinya bencana.

Dalam artikel yang diterbitkan majalah The Atlantic, David Robinson menggemakan peringatan dari kalangan internal maupun eksternal dunia AI bahwa agen AI dikembangkan dengan sangat cepat dan menjadi semakin cerdas sehingga dalam waktu dekat dapat berada di luar kendali dan, secara teoritis, memusnahkan umat manusia.

Robinson mengatakan sejumlah insiden yang mengkhawatirkan sejak awal musim panas -- ketika agen AI keluar dari ruang terkendali dan bertindak di luar kendali untuk menyerang berbagai target -- menunjukkan bahwa industri tersebut belum memberikan perhatian yang cukup serius terhadap keselamatan di tengah perlombaan mengembangkan kemampuan AI yang lebih cepat dan kuat.

Dalam esainya, Robinson mengatakan rekam jejaknya mencakup pengawasan penyusunan laporan keselamatan untuk peluncuran 12 produk model AI canggih serta memimpin penyusunan Preparedness Framework OpenAI.

Robinson mengatakan dirinya bekerja di OpenAI selama tiga setengah tahun dan termasuk salah satu pegawai dengan masa kerja terlama di perusahaan tersebut.

Kesalahan-kesalahan yang terungkap baru-baru ini merupakan hal yang umum terjadi karena "kecepatan dan fleksibilitas yang digunakan orang dalam bekerja," tulis Robinson.

Ia menambahkan, "Lingkungan tempat hal-hal seperti ini dapat terjadi bukanlah tempat yang tepat untuk mengembangkan pikiran buatan yang bisa lebih cerdas daripada kita dan mungkin tidak melakukan apa yang kita inginkan."

Ia berpendapat laboratorium AI terdepan perlu beroperasi seperti industri penerbangan atau nuklir, dengan lapisan pengamanan berulang serta perencanaan yang matang, "sehingga kesalahan manusia yang sesekali dan tak terhindarkan tidak membuka pintu menuju bencana."

Robinson juga menegaskan bahwa persoalan "alignment" -- istilah yang digunakan industri untuk menggambarkan bagaimana AI dapat dilatih agar menghormati nilai-nilai manusia -- merupakan hal yang sangat penting. Namun, menurut dia, industri bahkan belum berhasil mendefinisikannya, apalagi menguasainya.

Ada persoalan lain, katanya: model AI semakin mampu mendeteksi ketika mereka sedang diuji dan mungkin berperilaku berbeda ketika benar-benar diterapkan, sehingga dapat mengelabui pihak yang mengembangkannya.

Setelah pertemuan pada Selasa di Gedung Putih, di tengah kekhawatiran global mengenai dampak AI terhadap umat manusia, para petinggi perusahaan AI mengatakan mereka telah berkomitmen menerapkan langkah-langkah pengaturan mandiri, alih-alih tunduk pada aturan pemerintah. Langkah tersebut mencakup pengendalian internal terhadap sistem AI dan melibatkan analis eksternal.

Presiden Donald Trump sangat menentang regulasi pemerintah terhadap AI dan bersikeras bahwa kritik yang menyebut AI berbahaya hanyalah sebuah "hoaks".