Israel Diam-diam Sematkan Sistem AI untuk Operasi Militer Mematikan

Secara kolektif, mereka terdiri dari arsitektur digital luas yang didedikasikan untuk menafsirkan sejumlah besar rekaman drone dan CCTV, citra satelit, sinyal elektronik, komunikasi online, dan data lain untuk penggunaan militer.

Berurusan dengan semburan informasi ini adalah tujuan dari Pusat Ilmu Data dan Kecerdasan Buatan, yang dijalankan oleh unit 8200 tentara. Berbasis di divisi intelijen, unit itu adalah tempat banyak jutawan teknologi negara itu, termasuk Nir Zuk dari Palo Alto Networks Inc. dan pendiri Check Point Software Technologies Ltd Gil Shwed, mereka melakukan wajib militer sebelum membentuk perusahaan rintisan yang sukses.

Menurut seorang juru bicara, Pusat tersebut bertanggung jawab untuk mengembangkan sistem yang "mengubah seluruh konsep target di IDF".

Sifat rahasia dari bagaimana alat tersebut dikembangkan telah menimbulkan kekhawatiran serius, termasuk bahwa kesenjangan antara sistem semi-otonom dan mesin pembunuh yang sepenuhnya otomatis dapat dipersempit dalam semalam. Dalam skenario seperti itu, mesin akan diberdayakan untuk menemukan dan menyerang target, dengan manusia sepenuhnya disingkirkan dari posisi pengambilan keputusan.

"Ini hanya perubahan perangkat lunak yang dapat membuat mereka tidak menjadi semi tetapi sepenuhnya otonom," kata Catherine Connolly, peneliti keputusan otomatis di Stop Killer Robots, sebuah koalisi organisasi nonpemerintah yang mencakup Human Rights Watch dan Amnesty International . Israel mengatakan, tidak memiliki rencana untuk menghapus pengawasan manusia di tahun-tahun mendatang.

Kekhawatiran lain adalah adopsi AI yang cepat melampaui penelitian tentang cara kerjanya. Banyak algoritma dikembangkan oleh perusahaan swasta dan militer yang tidak mengungkapkan informasi hak milik, dan kritik telah menggarisbawahi kurangnya transparansi dalam cara algoritme mencapai kesimpulan mereka.

IDF mengakui masalah tersebut, tetapi mengatakan hasil ditinjau dengan hati-hati oleh tentara dan sistem AI militernya meninggalkan remah teknis, memberi operator manusia kemampuan untuk menciptakan kembali langkah mereka.

"Terkadang ketika Anda memperkenalkan komponen AI yang lebih kompleks, jaringan saraf, dan sejenisnya, memahami apa yang 'terlintas di benaknya', secara kiasan, cukup rumit. Dan terkadang saya bersedia mengatakan bahwa saya puas dengan ketertelusuran, bukan penjelasan. Artinya, saya ingin memahami apa yang penting bagi saya untuk memahami proses dan memantaunya, meskipun saya tidak memahami apa yang dilakukan setiap 'neuron','" kata Uri.

IDF menolak untuk berbicara tentang teknologi pengenalan wajah, yang telah dikritik keras oleh kelompok hak asasi manusia, meskipun mengatakan telah menahan diri untuk mengintegrasikan AI ke dalam perangkat lunak perekrutan karena khawatir dapat mendiskriminasi perempuan dan calon kadet dari latar belakang sosial ekonomi yang lebih rendah.

Keuntungan utama mengintegrasikan AI ke dalam sistem medan perang, menurut beberapa ahli, adalah potensi untuk mengurangi korban sipil. "Saya pikir ada manfaat efisiensi dan efektivitas untuk menggunakan teknologi ini dengan benar. Dan dalam parameter teknologi yang berfungsi dengan baik, bisa ada presisi yang sangat, sangat tinggi," kata Simona R. Soare, peneliti di International Institute of Strategic Studies yang berbasis di London.

"Ini dapat membantu Anda dengan banyak hal yang perlu Anda lakukan saat bepergian, dalam kabut pertempuran. Dan itu sangat sulit dilakukan pada hari-hari terbaik," ungkap dia.

"Ada juga banyak hal yang bisa salah juga," tambahnya.

Masalah Etis