Israel Diam-diam Sematkan Sistem AI untuk Operasi Militer Mematikan

TEL AVIV - Pasukan Pertahanan Israel atau Israel Defense Forces (IDF) baru-baru ini telah mulai menggunakan sistem Artificial Intelligence (AI) untuk memilih target serangan udara dan mengatur logistik masa perang ketika ketegangan meningkat di wilayah pendudukan dan dengan musuh bebuyutan Iran.

Pejabat militer Israel mengatakan, dengan sistem AI mereka dapat mengolah sejumlah besar data untuk memilih target serangan udara. Serangan selanjutnya dapat digabungkan dengan model kecerdasan buatan lain yang disebut Fire Factory, yang menggunakan data tentang target yang disetujui militer untuk menghitung muatan amunisi, memprioritaskan dan menetapkan ribuan target ke pesawat dan drone, dan mengusulkan jadwal tembakan.

Sementara kedua sistem diawasi oleh operator manusia yang memeriksa dan menyetujui target individu dan rencana serangan udara, menurut seorang pejabat IDF, teknologi tersebut masih belum tunduk pada peraturan tingkat internasional atau negara bagian.

Dilaporkan oleh Bloomberg, para pendukung AI berpendapat bahwa algoritma canggih dapat melampaui kemampuan manusia dan dapat membantu militer meminimalkan korban, sementara kritikus memperingatkan konsekuensi yang berpotensi mematikan jika mengandalkan sistem otonom yang semakin meningkat.

"Jika ada kesalahan dalam perhitungan AI, dan jika AI tidak dapat menjelaskan, lalu siapa yang kita salahkan atas kesalahan tersebut?" kata Tal Mimran, dosen hukum internasional di Hebrew University of Jerusalem dan mantan penasihat hukum militer.

"Anda bisa melenyapkan seluruh keluarga berdasarkan (satu) kesalahan".

Rincian penggunaan operasional AI oleh militer sebagian besar masih dirahasiakan, namun pernyataan dari pejabat militer menunjukkan bahwa IDF telah memperoleh pengalaman medan perang dengan sistem kontroversial melalui gejolak berkala di Jalur Gaza, di mana Israel sering melakukan serangan udara sebagai tanggapan atas serangan roket.

Pada 2021, IDF menggambarkan konflik 11 hari di Gaza sebagai "perang AI" pertama di dunia, mengutip penggunaan kecerdasan buatan untuk mengidentifikasi landasan peluncuran roket dan mengerahkan kawanan drone. Israel juga melakukan serangan di Suriah dan Lebanon, menargetkan pengiriman senjata ke milisi yang didukung Iran seperti Hizbullah.

Dalam beberapa bulan terakhir, Israel telah mengeluarkan peringatan hampir setiap hari ke Iran atas pengayaan uraniumnya, bersumpah tidak akan mengizinkan negara itu memperoleh senjata nuklir dalam keadaan apa pun. Jika keduanya mengadakan konfrontasi militer, IDF mengantisipasi bahwa proksi Iran di Gaza, Suriah, dan Lebanon akan membalas, menyiapkan panggung untuk konflik multi-front serius pertama bagi Israel sejak serangan mendadak oleh Mesir dan Suriah 50 tahun lalu memicu konflik Perang Yom Kipur.

Menurut pejabat IDF, alat berbasis AI seperti Fire Factory dirancang untuk skenario seperti itu.

"Apa yang biasanya memakan waktu berjam-jam sekarang membutuhkan waktu beberapa menit, dengan beberapa menit lagi untuk tinjauan manusia," kata Kolonel Uri, yang mengepalai unit transformasi digital tentara dan berbicara di markas IDF di Tel Aviv dengan syarat hanya nama depannya saja digunakan untuk alasan keamanan.

"Dengan jumlah orang yang sama, kami melakukan lebih banyak lagi. Sistem tersebut, dirancang untuk perang habis-habisan," tegas pejabat ini.

Memperluas Kecerdasan?

IDF telah lama menggunakan AI, tetapi dalam beberapa tahun terakhir memperluas sistem tersebut di berbagai unit karena berusaha memposisikan dirinya sebagai pemimpin global dalam persenjataan otonom. Beberapa dari sistem ini dibangun oleh kontraktor pertahanan Israel; lainnya, seperti kamera pengawas perbatasan StarTrack, yang dilatih selama ribuan jam rekaman untuk mengidentifikasi orang dan objek, dikembangkan oleh militer.

Secara kolektif, mereka terdiri dari arsitektur digital luas yang didedikasikan untuk menafsirkan sejumlah besar rekaman drone dan CCTV, citra satelit, sinyal elektronik, komunikasi online, dan data lain untuk penggunaan militer.

Berurusan dengan semburan informasi ini adalah tujuan dari Pusat Ilmu Data dan Kecerdasan Buatan, yang dijalankan oleh unit 8200 tentara. Berbasis di divisi intelijen, unit itu adalah tempat banyak jutawan teknologi negara itu, termasuk Nir Zuk dari Palo Alto Networks Inc. dan pendiri Check Point Software Technologies Ltd Gil Shwed, mereka melakukan wajib militer sebelum membentuk perusahaan rintisan yang sukses.

Menurut seorang juru bicara, Pusat tersebut bertanggung jawab untuk mengembangkan sistem yang "mengubah seluruh konsep target di IDF".

Sifat rahasia dari bagaimana alat tersebut dikembangkan telah menimbulkan kekhawatiran serius, termasuk bahwa kesenjangan antara sistem semi-otonom dan mesin pembunuh yang sepenuhnya otomatis dapat dipersempit dalam semalam. Dalam skenario seperti itu, mesin akan diberdayakan untuk menemukan dan menyerang target, dengan manusia sepenuhnya disingkirkan dari posisi pengambilan keputusan.

"Ini hanya perubahan perangkat lunak yang dapat membuat mereka tidak menjadi semi tetapi sepenuhnya otonom," kata Catherine Connolly, peneliti keputusan otomatis di Stop Killer Robots, sebuah koalisi organisasi nonpemerintah yang mencakup Human Rights Watch dan Amnesty International . Israel mengatakan, tidak memiliki rencana untuk menghapus pengawasan manusia di tahun-tahun mendatang.

Kekhawatiran lain adalah adopsi AI yang cepat melampaui penelitian tentang cara kerjanya. Banyak algoritma dikembangkan oleh perusahaan swasta dan militer yang tidak mengungkapkan informasi hak milik, dan kritik telah menggarisbawahi kurangnya transparansi dalam cara algoritme mencapai kesimpulan mereka.

IDF mengakui masalah tersebut, tetapi mengatakan hasil ditinjau dengan hati-hati oleh tentara dan sistem AI militernya meninggalkan remah teknis, memberi operator manusia kemampuan untuk menciptakan kembali langkah mereka.

"Terkadang ketika Anda memperkenalkan komponen AI yang lebih kompleks, jaringan saraf, dan sejenisnya, memahami apa yang 'terlintas di benaknya', secara kiasan, cukup rumit. Dan terkadang saya bersedia mengatakan bahwa saya puas dengan ketertelusuran, bukan penjelasan. Artinya, saya ingin memahami apa yang penting bagi saya untuk memahami proses dan memantaunya, meskipun saya tidak memahami apa yang dilakukan setiap 'neuron','" kata Uri.

IDF menolak untuk berbicara tentang teknologi pengenalan wajah, yang telah dikritik keras oleh kelompok hak asasi manusia, meskipun mengatakan telah menahan diri untuk mengintegrasikan AI ke dalam perangkat lunak perekrutan karena khawatir dapat mendiskriminasi perempuan dan calon kadet dari latar belakang sosial ekonomi yang lebih rendah.

Keuntungan utama mengintegrasikan AI ke dalam sistem medan perang, menurut beberapa ahli, adalah potensi untuk mengurangi korban sipil. "Saya pikir ada manfaat efisiensi dan efektivitas untuk menggunakan teknologi ini dengan benar. Dan dalam parameter teknologi yang berfungsi dengan baik, bisa ada presisi yang sangat, sangat tinggi," kata Simona R. Soare, peneliti di International Institute of Strategic Studies yang berbasis di London.

"Ini dapat membantu Anda dengan banyak hal yang perlu Anda lakukan saat bepergian, dalam kabut pertempuran. Dan itu sangat sulit dilakukan pada hari-hari terbaik," ungkap dia.

"Ada juga banyak hal yang bisa salah juga," tambahnya.

Masalah Etis

Sementara para pemimpin Israel telah menguraikan niat mereka untuk menjadikan negara itu sebagai " negara adidaya AI ", mereka tidak mengetahui detailnya.

Kementerian Pertahanan menolak berkomentar tentang berapa banyak yang diinvestasikan dalam AI, dan militer tidak akan membahas kontrak pertahanan khusus, meskipun mengkonfirmasi bahwa Fire Factory dikembangkan oleh kontraktor pertahanan Israel, Rafael.

Gambaran yang lebih kabur adalah bahwa, tidak seperti selama perlombaan senjata nuklir, ketika rincian kemampuan senjata yang bocor adalah aspek kunci dari pencegahan, sistem otonom dan bantuan AI sedang dikembangkan oleh pemerintah, militer, dan perusahaan pertahanan swasta secara rahasia.

"Kita dapat berasumsi bahwa Amerika dan bahkan Tiongkok dan mungkin beberapa negara lain juga memiliki sistem canggih di bidang tersebut," kata Liran Antebi, peneliti senior di Institut Studi Keamanan Nasional yang berbasis di Israel.

"Tapi tidak seperti Israel, mereka, setahu saya, tidak pernah menunjukkan penggunaan dan keberhasilan operasional," ujarnya.

Untuk saat ini, tidak ada batasan. Terlepas dari satu dekade pembicaraan yang disponsori PBB, tidak ada kerangka kerja internasional yang menetapkan siapa yang bertanggung jawab atas korban sipil, kecelakaan, atau eskalasi yang tidak diinginkan ketika komputer salah menilai.

"Ada juga pertanyaan tentang pengujian dan data yang digunakan untuk melatih sistem ini," kata Connolly dari koalisi Stop Killer Robots.

"Seberapa tepat dan akurat Anda dapat mengetahui suatu sistem kecuali sudah dilatih dan diuji pada manusia?"

Kekhawatiran tersebut mmebuat Mimran, dosen hukum di Hebrew University, percaya bahwa IDF harus secara eksklusif menggunakan AI untuk tujuan pertahanan. Selama masa jabatannya di ketentaraan, Mimran secara manual memeriksa target untuk memastikan bahwa serangan tersebut sesuai dengan hukum internasional.

"Terlepas dari teknologi, ada titik di mana Anda perlu membuat keputusan berdasarkan nilai," kata Mimran.

"Dan untuk itu, kita tidak bisa mengandalkan AI," pungkasnya.