Perang Melawan AI Nakal, Australia Rancang Sistem Peringatan Dini demi Keamanan Nasional

CANBERRA - Kepala badan intelijen siber Australia memperingatkan bahwa negara tersebut membutuhkan sistem peringatan dini untuk ancaman yang ditimbulkan oleh AI, demikian warta Xinhua pada Selasa (15/9).

Abigail Bradshaw, direktur jenderal Australian Signals Directorate (ASD), mengatakan dalam sebuah pertemuan di Canberra pada Senin (14/9) bahwa serangan berbasis AI dapat memanfaatkan teknologi usang yang digunakan oleh pemerintah dan dunia usaha.

Dia mengimbau berbagai organisasi untuk memanfaatkan AI sebagai sarana pertahanan, dan menyarankan agar badan-badan intelijen serta keamanan bekerja sama dengan perusahaan-perusahaan AI untuk mengidentifikasi risiko sejak dini.

"Apa yang belum kita miliki saat ini, sesuatu yang sudah ada dalam konteks siber namun belum diformalkan dalam konteks AI, adalah sistem peringatan dini," ujar Bradshaw.

Pertemuan di Canberra tersebut digelar beberapa hari setelah CEO Anthropic, Dario Amodei, pada Sabtu (12/9) menyerukan agar industri memperlambat laju pengembangan AI dan meminta evaluator pihak ketiga untuk memverifikasi kepatuhan model AI terhadap langkah-langkah keselamatan.

CEO OpenAI Sam Altman dan Elon Musk dari xAI menyatakan sependapat dengan Amodei.

Menanggapi hal ini, Asisten Menteri Sains, Teknologi, dan Ekonomi Digital Australia Andrew Charlton pada Senin (14/9) mengatakan dirinya tidak ingin perusahaan teknologi atau Amerika Serikat menjadi satu-satunya pihak yang bertanggung jawab dalam menetapkan batasan pengaman bagi AI.

"Menurut saya, kita tidak perlu terlalu memedulikan pernyataan para CEO secara individu atau apa yang diinginkan oleh para eksekutif tertentu," ujarnya.

"Saya tidak setuju jika urusan ini diserahkan sepenuhnya ke tangan perusahaan atau negara-negara adidaya," imbuhnya.