Cegah Penyalahgunaan, KTT di Seoul Serukan Kontrol Manusia Pada Penggunaan AI di Militer

Seoul - Pertemuan di Seoul tentang penggunaan kecerdasan buatan (AI) dalam bidang militer menyerukan agar kontrol manusia tetap dipertahankan untuk penggunaan militer AI yang dapat diandalkan dan mencegah penggunaan yang memicu penyebaran senjata pemusnah massal.

Seruan tersebut disampaikan dalam deklarasi bersama pada Selasa yang diadopsi setelah konferensi AI Bertanggung Jawab dalam Domain Militer (REAIM) selama dua hari yang diselenggarakan Korea Selatan, sebuah pertemuan multilateral untuk berdiskusi mengenai pembangunan tata kelola penggunaan AI di bidang militer.

"Melibatkan manusia secara tepat perlu dipertahankan dalam pengembangan, penerapan, dan penggunaan AI di bidang militer, termasuk langkah-langkah tepat yang berkaitan dengan penilaian dan kontrol manusia atas penggunaan kekuatan," kata deklarasiBlueprint for Actionyang dirilis Kementerian Luar Negeri Korea Selatan, Selasa.

Deklarasi juga menekankan agar teknologi AI mendukung dan tidak menghalangi upaya pelucutan senjata, pengendalian senjata dan non-proliferasi. Manusia, disepakati, tetap bertanggung jawab dan akuntabel atas penggunaan dan dampak aplikasi AI di bidang militer.

Deklarasi setuju bahwa pentingnya keterlibatan manusia harus berlaku untuk semua tindakan yang krusial untuk menginformasikan dan melaksanakan keputusan berdaulat mengenai penggunaan senjata nuklir, tanpa mengabaikan tujuan akhir dari dunia yang bebas dari senjata nuklir.

Para peserta turut menyerukan pembentukan langkah-langkah pengamanan yang tepat untuk memastikan aplikasi AI dapat diandalkan dan terpercaya, serta mengurangi risiko malfungsi atau konsekuensi yang tidak diinginkan, seperti yang disebabkan oleh data, algoritma, dan bias lainnya.

Konferensi REAIM tahun ini mempertemukan sekitar 2.000 pejabat pemerintah dan pakar swasta dari 90 negara untuk mencari cara mengatasi penggunaan AI oleh militer baik dari segi manfaat maupun potensi risikonya.

Rusia, yang sedang perang berkepanjangan dengan Ukraina, tidak diundang ke pertemuan tahun ini, sama seperti yang terjadi tahun lalu.

Dari negara-negara yang berpartisipasi, sebanyak 61 negara mendukung deklarasi tersebut. Lebih banyak negara bisa ditambahkan ke dalam daftar tersebut, termasuk China yang dilaporkan sedang mempertimbangkan untuk mendukung hasil pertemuan puncak tahun ini, menurut sumber diplomatik.