Trump dan Raksasa Teknologi Teken Kesepakatan Keselamatan AI

WASHINGTON DC - Presiden Amerika Serikat (AS) Donald Trump pada Selasa (29/9) menandatangani kesepakatan mengenai keselamatan kecerdasan buatan (AI) bersama sejumlah eksekutif perusahaan teknologi terkemuka dan membagikan salinan kesepakatan tersebut melalui platform Truth Social miliknya.

Perjanjian itu mencantumkan nama Trump dan sejumlah eksekutif perusahaan teknologi terbesar dunia sebagai pihak penandatangan, termasuk CEO Google Sundar Pichai, CEO Anthropic Dario Amodei, CEO Meta Mark Zuckerberg, salah satu pendiri OpenAI Greg Brockman, CEO xAI Elon Musk, dan CEO Nvidia Jensen Huang.

Dikutip dari Antara, kesepakatan yang disebut Gedung Putih sebagai White House Accord on Super Intelligence atau "Komitmen Bersama terkait Tanggung Jawab pada Teknologi Terdepan" (Joint Commitment on Frontier Responsibilities) tersebut memuat komitmen bersama untuk memperkuat pengamanan dalam pengembangan dan penerapan sistem AI tingkat lanjut.

Kesepakatan itu mendorong perusahaan yang mengembangkan dan menerapkan model AI mutakhir untuk menetapkan proses serta kontrol internal yang kuat. Langkah tersebut ditujukan untuk memastikan sistem beroperasi sesuai tujuan serta memungkinkan potensi masalah diidentifikasi dan ditangani dengan cepat.

Berdasarkan kesepakatan tersebut, perusahaan yang berpartisipasi akan menerapkan empat lapisan kontrol dan audit yang mencakup tahap pengembangan hingga penerapan model.

Lapisan pertama mengharuskan perusahaan menetapkan kontrol internal untuk memantau kemampuan dan keselarasan model, termasuk risiko yang berkaitan dengan keamanan siber, keamanan hayati, dan ancaman kimia.

Kontrol tersebut juga dirancang untuk mencegah model melakukan peretasan atau mengakses sistem teknis dengan cara yang tidak diinginkan.

Lapisan kedua melibatkan tim internal yang bertanggung jawab memverifikasi bahwa sistem kontrol, pemantauan, dan deteksi berfungsi dengan baik serta memastikan masalah yang ditemukan telah ditangani.

Pada lapisan ketiga, perusahaan akan bekerja sama dengan auditor atau evaluator eksternal yang independen untuk menilai apakah sistem kontrol dan pemantauan berjalan sesuai tujuan.

Sementara itu, lapisan keempat menetapkan pembentukan komite dewan independen yang bertugas mengawasi proses tersebut, menerima laporan dari tim internal maupun evaluator eksternal, serta memastikan masalah yang ditemukan telah diselesaikan.

Standar dan Regulasi

Perusahaan yang berpartisipasi juga akan mengadakan pertemuan secara berkala untuk menetapkan standar dan praktik terbaik guna meningkatkan keselamatan sistem AI mereka.

Dokumen tersebut membuka kemungkinan penerapan regulasi pemerintah pada masa mendatang. Langkah-langkah keselamatan yang disepakati dapat dimasukkan ke dalam undang-undang atau peraturan resmi.