Robot Pembunuh yang Bakal Musnahkan Manusia

Inilah yang peneliti maksud ketika mereka menyebut model seperti itu "rapuh". Mereka cenderung retak ketika dihadapkan dengan skenario yang sedikit berbeda dari kondisi yang diperkenalkan selama konstruksi model. Dapat bermakna ganda ketika berbicara tentang perang, karena kondisi medan jarang dapat diprediksi, dan musuh akan selalu berusaha mencari cara untuk mengeksploitasi kelemahan ini.

Bahkan, ada seluruh bidang penelitian yang didedikasikan untuk membodohi model AI visi komputer - model yang sangat perlu dipasang Pentagon di robot pembunuh sehingga mereka dapat membidik sasaran. Sampai saat ini, tidak ada model visi komputer yang terbukti tahan terhadap eksploitasi yang oleh peneliti yang disebut "serangan permusuhan," sesuatu yang mirip dengan peretasan untuk dengan sengaja membodohi program visi komputer.

Dalam Perang Dunia II, mereka menggunakan sekam (awan tipis dari aluminium) untuk mencegah radar musuh menargetkan pesawatnya. Prinsip yang sama dapat diterapkan pada serangan permusuhan terhadap robot pembunuh.

Dalam kasus analog untuk AI, gambar dengan sedikit "noise" (statis atau gangguan berbasis pixel lainnya) yang ditambahkan ke foto telah terbukti mengalahkan model penglihatan AI - bahkan jika gambar terlihat baik bagi mata manusia. Jadi bayangkan satu peleton tank mengendarai di bawah jaring confetti warna-warni, reflektif atau sesuatu yang sama-sama tidak pada tempatnya. Jika robot belum dilatih untuk menghadapinya, para prajurit di bawahnya praktis tidak akan terlihat. ang/R-1

Luncurkan Serangan Tanpa Manusia
Halaman Selanjutnya....