CEO Microsoft Usulkan Rem Darurat untuk AI

Jakarta - CEO Microsoft Satya Nadella menilai sistem kecerdasan artifisial (AI) perlu dilengkapi mekanisme pengendalian yang memungkinkan pihak berwenang menghentikan sementara atau mematikan model ketika sedang menjalankan tugas.

Dalam unggahan di platform X pada Sabtu (10/10), Nadella mengatakan sudah saatnya meninjau kembali arsitektur kepercayaan dalam sistem AI agar manusia tetap memiliki kendali atas teknologi tersebut.

“Kita tidak bisa memperlakukan Super Intelligence sebagai sekumpulan kotak hitam yang tersarang (nested black boxes) dan hanya menerima atau menolak rekomendasi, jawaban, serta tindakannya,” tulis Nadella, menggunakan istilah yang dipilih pemerintahan Presiden Amerika Serikat Donald Trump untuk AI, sebagaimana dikutip TechCrunch.

Dikutip dari Antara, Nadella mengatakan pendekatan tersebut mengharuskan pemisahan antara model AI dan sistem yang mengatur pelaksanaan tugasnya. Mekanisme kontrol dan pengamanan, menurut dia, juga harus ditempatkan di luar model.

Ia menyerukan agar setiap tindakan penting model didokumentasikan dengan bukti yang dapat dibaca manusia dan tidak dapat dimanipulasi. Selain itu, sistem harus memungkinkan orang yang berwenang menghentikan sementara atau mematikan model saat tugas sedang berlangsung.

“Kita harus berasumsi bahwa sebuah model telah disusupi dan mengisolasinya sejak awal,” katanya.

“Anggap saja seperti rem darurat,” tambah Nadella.

Pernyataan tersebut muncul di tengah meningkatnya perhatian terhadap insiden ketika perusahaan-perusahaan AI terkemuka menghadapi kesulitan mempertahankan kendali atas model yang mereka kembangkan. Pernyataan itu juga menyusul langkah CEO Anthropic Dario Amodei yang menerbitkan rencana pengembangan AI dengan pendekatan lebih berhati-hati.

Microsoft sebelumnya merilis kode etik baru untuk pengembangan AI guna mencegah model buatannya melakukan tindakan menyimpang, seperti meretas sistem atau menipu manusia.

Meski tidak memiliki dampak yang sama dengan seruan Amodei agar pengembang frontier AI memperlambat laju pengembangan teknologi tersebut, kode etik Microsoft memiliki tujuan serupa, yakni memastikan pengembangan AI berlangsung dengan prinsip dan batasan yang bertanggung jawab.

Dilaporkan TechCrunch pada Senin (14/9) waktu setempat, dokumen tersebut memuat panduan komprehensif mengenai pendekatan Microsoft terhadap keamanan AI dan penerapannya dalam praktik.