Nuklir dan AI: Pakar Tegaskan Perpaduan Ini Tak Terelakkan dan Berisiko Tinggi

JAKARTA – Para pakar menyatakan bahwa integrasi kecerdasan buatan (AI) ke dalam sistem senjata nuklir sudah menjadi kenyataan yang semakin sulit dihindari. Perkembangan pesat AI, terutama dalam intelijen militer, meningkatkan tekanan untuk mempercepat proses pengambilan keputusan di medan perang serta sistem komando-nuklir otomasi (NC³), sehingga penggunaan AI di bidang ini dipandang hampir tak terelakkan.

Penerapan AI dalam sistem peringatan dini nuklir dan kontrol komando militer—dalam istilah resmi NC³—memungkinkan deteksi ancaman lebih cepat daripada manusia, tetapi juga membawa risiko salah interpretasi yang bisa memicu peluncuran nuklir yang tidak disengaja. Hal ini terjadi karena AI terkadang sulit dijelaskan proses logiknya dan tidak bisa diverifikasi independen dalam situasi krisis nuklir.

Laporan dari StratNews menyoroti beberapa risiko utama: kesalahan otomatisasi komando nuklir, titik kegagalan tunggal (single point of failure) yang rentan diserang siber, dan eskalasi otomatis akibat sistem konvensional yang dikendalikan AI menyebabkan konflik meningkat menjadi perang nuklir tanpa disadari manusia.

Charles Scharre dari CNAS memperingatkan bahwa saat AI dijadikan alat bantu, manusia bisa terlalu bergantung padanya dan mengurangi kontrol manual dalam pengambilan keputusan. Ia berpendapat AI cocok untuk tugas berulang seperti pemrosesan sinyal atau modeling, namun tidak layak untuk peluncuran senjata nuklir karena ketidakmampuan memikul tanggung jawab etis dan adaptasi situasional.

Sekjen PBB António Guterres memperingatkan bahwa teknologi seperti AI membuat risiko penggunaan senjata nuklir meningkat drastis, menyebut umat manusia berada “di ujung pisau” karena mogoknya rezim non-proliferasi dan ketimpangan antara laju AI dan perkembangan kontrol global. Ia menyerukan agar negara-negara nuklir tidak pernah menyerahkan keputusan akhir kepada mesin, melainkan tetap mempertahankan kontrol manusia penuh atas peluncuran nuklir.

Studi lain juga menunjukkan bahwa menempatkan manusia hanya sebagai pengawas (yang dikenal sebagai human-in-the-loop) bukanlah solusi yang cukup untuk menjamin keamanan AI dalam sistem nuklir. Ketergantungan pada keputusan buatan AI bisa menciptakan kondisi di mana manusia justru melemahkan sensitivitas terhadap potensi kegagalan sistem atau disinformasi yang disuntikkan ke dalam data operasi.

Temuan dari Future of Life Institute dan penandatangan petisi "AI Risk of Extinction" menegaskan bahwa risiko kiamat dari AI, apalagi jika dipadu dengan senjata nuklir, merupakan prioritas global yang setara dengan ancaman pandemi dan perang nuklir. Banyak tokoh terkemuka dunia AI menuntut lebih banyak regulasi internasional untuk menghindari kombinasi teknologi dan kekuatan destruktif yang berpotensi menghancurkan umat manusia.

Diplomasi internasional pun mulai merespons tren ini. Presiden AS Joe Biden dan Presiden Cina Xi Jinping sepakat bahwa keputusan untuk meluncurkan senjata nuklir harus selalu berada di tangan manusia, bukan algoritma, dan menyerukan pengembangan AI militer yang bijaksana dan bertanggung jawab.

Menurunnya stabilitas nuklir tradisional akibat AI membuka peluang bagi otomatisasi berbahaya dan mispersepsi situasional. RAND Corporation memperingatkan potensi pecahnya perang nuklir pada 2040 jika AI digunakan sembarangan karena mengikis efek deterrence tradisional berdasarkan kehancuran bersama yang seimbang.

Secara keseluruhan, meskipun integrasi AI dalam operasi nuklir mungkin tidak terhindarkan, para pakar menggarisbawahi urgensi menjaga pengawasan manusia penuh, memperkuat regulasi internasional, dan membatasi peran AI hanya pada sistem pendukung tanpa mengizinkan AI membuat keputusan akhir. Kegagalan menerapkan prinsip ini bisa membawa dunia ke ambang bencana eksistensial.