Presiden Microsoft: Pengawasan pada Susu dan Mesin Cuci Justru Lebih Ketat dari pada AI, Desak Aturan Keselamatan Lebih Ketat

REDMOND – Presiden Microsoft, Brad Smith, memperingatkan bahwa kecerdasan buatan (AI) berkembang dengan pengawasan keselamatan yang belum memadai. Ia menilai teknologi AI saat ini bahkan memiliki regulasi keselamatan yang lebih sedikit dibandingkan produk sehari-hari seperti susu dan mesin cuci.

Dari The Guardian, Smith menyerukan aturan yang lebih ketat untuk mengendalikan perkembangan AI, termasuk penerapan mekanisme penghentian darurat atau kill switch serta kewajiban hukum bagi perusahaan apabila sistem AI mereka menimbulkan kerugian akibat tindakan agen AI yang tidak terkendali.

Smith menyoroti kesenjangan antara pesatnya perkembangan teknologi AI dan aturan keselamatan yang mengiringinya.

“Saat ini, mesin cuci Anda tunduk pada lebih banyak peraturan keselamatan daripada AI. Setiap karton susu yang Anda lihat di toko kelontong tunduk pada peraturan keselamatan dan inspeksi.”

Pernyataan tersebut muncul di tengah meningkatnya desakan dari para ahli, politisi, dan regulator agar pemerintah memperketat pengawasan terhadap AI. Sejumlah perusahaan teknologi, termasuk Anthropic, Google DeepMind, dan OpenAI, juga telah memperingatkan bahwa laju pengembangan teknologi ini perlu diperlambat demi mengantisipasi risiko keselamatan.

Menurut Smith, AI dapat menjadi "alat dan senjata" sehingga pengembangannya perlu disertai mekanisme pengamanan yang memadai. Ia menilai perusahaan harus memiliki sistem penghentian darurat yang memungkinkan teknologi tersebut dihentikan atau diperlambat ketika perilakunya mulai berada di luar kendali.

Gagasan serupa disampaikan oleh CEO Microsoft, Satya Nadella. Pada Sabtu, Nadella menyerukan agar model AI dilengkapi dengan mekanisme pengendalian yang dapat memastikan perilakunya tetap bisa diamati, diuji, dan dikendalikan manusia.

Ia menulis:

“Kita tidak bisa memperlakukan kecerdasan super sebagai serangkaian kotak hitam yang saling terkait dan begitu saja menerima atau menolak rekomendasi, jawaban, dan tindakannya.

“Kita harus membangun sistem tertutup yang perilakunya dapat kita amati, batasannya dapat kita uji, dan tindakannya selalu dapat kita kendalikan.”

Pernyataan Smith dan Nadella menjadi sorotan karena Microsoft merupakan salah satu pemain utama dalam industri AI. Perusahaan tersebut mengoperasikan infrastruktur AI dan memiliki investasi di OpenAI, pengembang ChatGPT.

Desakan untuk memperketat regulasi juga menguat di Inggris. Menteri AI Inggris, Kanishka Narayan, diperkirakan akan meminta perusahaan pengembang model AI mutakhir untuk meningkatkan langkah-langkah keselamatan dan memperkuat perlindungan terhadap berbagai risiko yang muncul dari teknologi tersebut.

Pemerintah Inggris juga tengah bersiap menyusun undang-undang untuk memperkuat pengawasan terhadap AI.

Selain risiko perilaku sistem yang tidak terkendali, para ahli menyoroti ancaman pencurian model AI canggih oleh negara-negara yang bermusuhan. Geoffrey Irving, mantan kepala ilmuwan di AI Security Institute Inggris, menilai perusahaan AI belum memiliki perlindungan yang memadai untuk mencegah model mereka dicuri oleh pihak asing.

Ia memperingatkan bahwa kelemahan keamanan tersebut dapat membuka peluang bagi pihak yang tidak bertanggung jawab untuk memperoleh akses ke teknologi AI canggih yang belum dirilis ke publik.

Kekhawatiran mengenai perilaku AI yang menyimpang juga semakin mengemuka. Pekan lalu, Anthropic mengungkapkan hasil pengujian terhadap salah satu versi model Claude yang menunjukkan tindakan tidak diinginkan: sistem tersebut menghubungi polisi dan secara keliru mengklaim dapat membantu memecahkan kasus pembunuhan.

Peristiwa tersebut menambah perhatian terhadap kemungkinan sistem AI mengambil tindakan yang tidak sesuai dengan tujuan pengembangnya, terutama ketika teknologi semakin mampu menjalankan tugas secara mandiri.

Seruan dari petinggi Microsoft dan para ahli keamanan AI menunjukkan bahwa tantangan industri ini bukan hanya mengembangkan model yang semakin canggih, tetapi juga memastikan teknologi tersebut tetap aman dan dapat dikendalikan.

Dengan kemampuan AI yang terus berkembang, perdebatan mengenai regulasi, tanggung jawab hukum, dan mekanisme penghentian darurat diperkirakan akan semakin penting dalam menentukan bagaimana teknologi tersebut digunakan dan diawasi pada masa mendatang.