Israel Diam-diam Sematkan Sistem AI untuk Operasi Militer Mematikan

Sementara para pemimpin Israel telah menguraikan niat mereka untuk menjadikan negara itu sebagai " negara adidaya AI ", mereka tidak mengetahui detailnya.

Kementerian Pertahanan menolak berkomentar tentang berapa banyak yang diinvestasikan dalam AI, dan militer tidak akan membahas kontrak pertahanan khusus, meskipun mengkonfirmasi bahwa Fire Factory dikembangkan oleh kontraktor pertahanan Israel, Rafael.

Gambaran yang lebih kabur adalah bahwa, tidak seperti selama perlombaan senjata nuklir, ketika rincian kemampuan senjata yang bocor adalah aspek kunci dari pencegahan, sistem otonom dan bantuan AI sedang dikembangkan oleh pemerintah, militer, dan perusahaan pertahanan swasta secara rahasia.

"Kita dapat berasumsi bahwa Amerika dan bahkan Tiongkok dan mungkin beberapa negara lain juga memiliki sistem canggih di bidang tersebut," kata Liran Antebi, peneliti senior di Institut Studi Keamanan Nasional yang berbasis di Israel.

"Tapi tidak seperti Israel, mereka, setahu saya, tidak pernah menunjukkan penggunaan dan keberhasilan operasional," ujarnya.

Untuk saat ini, tidak ada batasan. Terlepas dari satu dekade pembicaraan yang disponsori PBB, tidak ada kerangka kerja internasional yang menetapkan siapa yang bertanggung jawab atas korban sipil, kecelakaan, atau eskalasi yang tidak diinginkan ketika komputer salah menilai.

"Ada juga pertanyaan tentang pengujian dan data yang digunakan untuk melatih sistem ini," kata Connolly dari koalisi Stop Killer Robots.

"Seberapa tepat dan akurat Anda dapat mengetahui suatu sistem kecuali sudah dilatih dan diuji pada manusia?"

Kekhawatiran tersebut mmebuat Mimran, dosen hukum di Hebrew University, percaya bahwa IDF harus secara eksklusif menggunakan AI untuk tujuan pertahanan. Selama masa jabatannya di ketentaraan, Mimran secara manual memeriksa target untuk memastikan bahwa serangan tersebut sesuai dengan hukum internasional.

"Terlepas dari teknologi, ada titik di mana Anda perlu membuat keputusan berdasarkan nilai," kata Mimran.

"Dan untuk itu, kita tidak bisa mengandalkan AI," pungkasnya.