Lemhannas: Sistem Persenjataan Otonom Jadi Kekhawatiran Utama dalam Pengembangan Kecerdasan Buatan di Militer

Den Haag - Perkembangan sistem persenjataan otonom (AWS) menjadi isu yang paling dikhawatirkan dalam penggunaan kecerdasan buatan (AI) di sektor militer, kata Gubernur Lembaga Ketahanan Nasional (Lemhannas) Andi Widjajanto.

"Tentara kalau perang itu harus ada rasa takut, takut mati, kalah, hancur. Jadi kalau rasa takut ini tidak ada, diganti oleh mesin, dia akan merasa perang itu sepertigame," kata Andi di sela-sela konferensi penggunaan AI secara bertanggung jawab di sektor militer (REAIM 2023) di Den Haag, Belanda, Rabu.

Penggunaan AI akan menghilangkan rasa takut itu, kata dia. "Begitu rasa takut hilang, yang namanya keputusan untuk perang jadi mudah. Jadi harus ada rasa takut mati, kalah, hancur, itu harus ada, supaya perang rasional. AI, bisa menghilangkan itu semua, mempermudah keputusan untuk perang."

Meski demikian, penggunaan kecerdasan buatan dalam persenjataan juga bisa menjadikannya "perfect weapon", senjata dengan kemampuan menghancurkan besar, yang digelar tidak untuk berperang.

"Istilahnya Kalau AI berhasil menjadiperfect weapon, dia digelar, kehancurannya terlalu besar, secara rasional tidak digunakan. Itu akan jadiperfect deterrence. Nah ini enggak tahu akan mengarah ke mana. Itu udahstrategicbanget," kata Andi.

Terkait pengembangan AI dalam militer di Indonesia, Andi mengatakan, dalam level tertentu semestinya sudah ada.

"Seberapaupdatedan seberapa tertinggal dari AI yang lain, tidak tahu. Masing-masing negara juga tidak memberitahu," ujarnya.

Andi berharap, forum REAIM 2023 ini bisa diperjelas arahnya, apakah akan menghasilkan kesepakatan multilateral yang otonom, tidak terkait dengan organisasi manapun, atau diarahkan untuk berada di bawah bendera PBB.

Kemudian, lanjut dia, perlu dipertanyakan juga apakah AI dianggap sebagai teknologi yang sifatnya taktis, jadi pelarangannya bersifat taktis.

"Jadi pelarangannya menghindariautonomous, yang artinya tidak ada keterlibatan manusia sama sekali. Begitu dia dipakaicombat(tempur), dia harus ada pelibatan manusia," kata dia..

Atau dilarang sama sekali untuk domain militer, tegasnya. "Tapi kayaknya itu tidak mungkin. Kita gagal melarang senjata biologi, kimia dan nuklir, walaupun adatreaty-nya."

Sementara itu pakar kebijakan asing Dino Patti Djalal mengatakan Indonesia juga harus mengembangkan kecerdasan buatan untuk militer karena negara-negara lain saat ini juga sudah melakukannya.

"Poin yang penting adalah bahwa kita harus bisa mengarahkan agar kesepakatan (terkait pengembangan AI dalam militer) harus diarahkan untuk mengakomodasi kepentingan nasional kita," kata Dino.

Dalam pemanfaatan kecerdasan buatan untuk militer, kendali manusia merupakan hal penting, namun hal lebih penting yang perlu dipertimbangkan adalah standar etika, kata dia.

Pemerintah Belanda menggelar konferensi tentang penggunaan kecerdasan buatan (artificial intelligence/AI) yang bertanggung jawab di sektor militer (REAIM 2023) di Den Haag.

Konferensi yang dilaksanakan pada 15-16 Februari ini diikuti oleh peserta dari 70 negara.

Ajang itu merupakan yang pertama digelar oleh Belanda dan diharapkan bisa menjadi ajang tahunan.

Untuk penyelenggaraan konferensi pertama ini, Belanda menggandeng Korea Selatan sebagaico-host.

REAIM 2023 menjadi ajang para pihak untuk mendiskusikan peluang, tantangan dan risiko terkait aplikasi kecerdasan buatan dalam militer.