Anthropic Sebut Iran dan Tiongkok Gunakan AI Miliknya untuk Kegiatan Spionase

SAN FRANSISCO – Anthropic mengatakan telah menghentikan beberapa kasus operasi pengawasan yang disponsori negara yang menggunakan model kecerdasan buatan (AI) mereka, dan memperingatkan bahwa pemerintah dan aktor-aktor yang bersekutu dengan negara semakin banyak menggunakan AI untuk memata-matai minoritas etnis dan para pembangkang.

Insiden-insiden tersebut ditemukan dan diatasi antara bulan Januari dan Juli, dan berasal dari Tiongkok, Iran, dan Afrika Barat, kata Anthropic dalam sebuah laporan tentang penyalahgunaan modelnya, Kamis (10/9).

Kampanye pengawasan ini "menargetkan komunitas diaspora dan pembangkang yang sama yang secara historis menjadi sasaran rezim-rezim ini. Ini termasuk tokoh-tokoh pro-demokrasi di Hong Kong, komunitas Tibet dan Falun Gong di seluruh Asia, serta komunitas minoritas Iran dan para penentang rezim Iran di luar negeri," kata laporan itu.

Dalam satu kasus, aktor Iran mengembangkan cara untuk mengidentifikasi orang melalui akun media sosial mereka; dalam kasus lain, seorang kontraktor yang bekerja untuk otoritas keamanan nasional Mali menggunakan Claude "untuk merancang perangkat lunak yang mendasari pengumpulan intelijen."

"AI kini digunakan sebagai pengganti tenaga kerja teknik," kata laporan itu.

Anthropic juga mengganggu upaya pengguna merancang senjata, melakukan penelitian biologi yang meragukan, dan membuat penipuan kencan.

Laboratorium AI yang berbasis di San Francisco itu juga menuduh para pengembang Tiongkok menggunakan Claude secara curang untuk menghasilkan respons terhadap pertanyaan pengguna, sementara pada saat yang sama "menyaring" data tersebut untuk meningkatkan model mereka sendiri.

Distilasi adalah istilah industri yang merujuk pada proses di mana satu model AI digunakan untuk melatih model AI lainnya.

Para pengembang Tiongkok sebelumnya telah dituduh menggunakan teknik tersebut tanpa izin, yang pada dasarnya mencuri sumber daya dari laboratorium Amerika seperti Anthropic dan OpenAI.

Kini Anthropic menuduh Moonshot dan Deepseek dari Tiongkok juga secara diam-diam menggunakan Claude untuk menghasilkan jawaban yang diberikan kepada penggunanya.

"Dalam satu kasus, selama periode sepuluh hari, Moonshot meneruskan hampir 300.000 permintaan pelanggan ke Anthropic" melalui "jaringan 5.380 akun palsu, yang sebagian besar tampaknya berlokasi di Singapura dan Jepang," kata laporan itu.

Sebagian dari data tersebut berisi informasi pengguna yang sensitif, yang berpotensi melanggar perjanjian privasi.

"Kami tidak tahu apakah Moonshot memberi tahu pelanggan mereka bahwa permintaan mereka dialihkan ke Anthropic dan terekspos ke pihak ketiga," kata laporan itu.

Deepseek menggunakan teknik serupa.