AI Deepfake Bisa Mengguncang Pasar Keuangan, Investor Terancam Terjebak Informasi Palsu

AI juga dapat digunakan untuk menciptakan apa yang disebut sebagai konsensus palsu.

Bot berbasis AI dapat menghasilkan sejumlah besar komentar, opini, unggahan, atau percakapan yang seolah-olah berasal dari banyak orang. Padahal semuanya dapat dikendalikan oleh pihak yang sama.

Tujuannya adalah menciptakan persepsi bahwa masyarakat atau investor secara luas memiliki pandangan tertentu terhadap sebuah perusahaan, saham atau kebijakan.

Jika cukup banyak orang mempercayai persepsi tersebut, keputusan investasi dapat ikut berubah.

Dengan demikian, AI tidak hanya menjadi alat untuk melakukan financial fraud, tetapi juga alat untuk memengaruhi "minds"—pikiran, persepsi dan sentimen publik.

Carpenter membagi ancaman penipuan pada dasarnya ke dalam dua kelompok besar: penipuan yang mengejar uang dan penipuan yang bertujuan memengaruhi pikiran.

Keduanya kini dapat diperkuat oleh AI.

Dalam penipuan yang secara langsung mengejar uang, misalnya, AI dapat digunakan untuk membuat pelaku terlihat seperti orang yang dipercaya korban.

Suara seorang eksekutif dapat dikloning. Wajahnya dapat dibuat muncul dalam panggilan video. Pesan yang dikirim pun dapat disesuaikan dengan situasi dan karakter target.

Kasus nyata pernah terjadi di Hong Kong pada awal 2024.

Seorang pegawai bagian keuangan tertipu hingga mengirimkan sekitar USD 25 juta setelah mengikuti konferensi video dengan orang-orang yang tampak seperti para eksekutif perusahaan. Mereka ternyata merupakan rekayasa digital menggunakan deepfake.

Kasus tersebut menunjukkan bahwa deepfake bukan lagi sekadar teknologi untuk membuat video palsu yang menghibur.

Teknologi ini sudah dapat digunakan dalam operasi penipuan yang menyasar transaksi bernilai sangat besar.