AI Deepfake Bisa Mengguncang Pasar Keuangan, Investor Terancam Terjebak Informasi Palsu

Karena ketika informasi palsu bergerak lebih cepat daripada klarifikasi, dampaknya tidak lagi hanya dirasakan satu korban.

Ia dapat menyebar ke perusahaan, investor dan pasar secara keseluruhan.

Karena itu, Carpenter menilai pendekatan keamanan lama tidak lagi cukup.

Lembaga keuangan perlu menerapkan sistem yang secara khusus mampu mendeteksi penipuan berbasis AI, termasuk deepfake detection, analisis perilaku dan pemantauan transaksi yang tidak biasa.

Untuk transaksi bernilai tinggi, proses verifikasi juga perlu diperkuat dengan autentikasi berlapis.

Komunikasi yang tampak berasal dari seorang eksekutif tidak boleh otomatis dipercaya hanya karena suara dan wajahnya terlihat benar.

Carpenter juga mendorong perusahaan untuk meningkatkan pelatihan karyawan.

Sebab dalam banyak kasus, manusia tetap menjadi target utama.

Teknologi keamanan dapat membantu, tetapi keputusan akhir sering kali tetap berada di tangan manusia yang menerima telepon, membaca pesan atau menyaksikan sebuah video.

Karena itu, karyawan perlu dilatih untuk mengenali tanda-tanda manipulasi AI dan memahami bahwa identitas digital dapat dipalsukan dengan tingkat kemiripan yang semakin tinggi.

Di sisi regulator, Carpenter merekomendasikan SEC membentuk satuan tugas khusus untuk menangani penipuan keuangan berbasis AI.

Menurutnya, unit semacam itu dapat memantau pola penipuan, mengeluarkan panduan bagi industri dan bekerja sama dengan lembaga keuangan untuk memperkuat mitigasi risiko.

Ia juga mendorong peningkatan transparansi mengenai penggunaan AI serta penggunaan teknologi seperti watermarking, tanda tangan digital atau mekanisme verifikasi lainnya untuk membantu memastikan keaslian informasi keuangan.