AI Deepfake Bisa Mengguncang Pasar Keuangan, Investor Terancam Terjebak Informasi Palsu

Dan masalahnya, kemampuan semacam itu kini semakin mudah diperluas.

Carpenter menyebut AI sebagai force multiplier bagi para pelaku penipuan. Teknologi yang sebelumnya membutuhkan keahlian tinggi kini dapat digunakan oleh pelaku yang relatif tidak canggih untuk menghasilkan penipuan yang terlihat profesional.

Perangkat yang dahulu identik dengan aktor negara atau kelompok dengan kemampuan teknis tinggi kini dapat diakses secara luas melalui internet.

Akibatnya, batas antara penipu amatir dan operasi penipuan canggih semakin kabur.

Salah satu ancaman lainnya datang dari penipuan investasi.

Skema seperti pig butchering dapat memanfaatkan AI untuk membuat dokumen keuangan palsu, platform perdagangan palsu dan komunikasi yang dirancang secara khusus untuk setiap korban.

Jika sebelumnya seorang penipu hanya mampu berkomunikasi dengan sejumlah kecil korban dalam satu waktu, AI memungkinkan proses tersebut dilakukan dalam skala yang jauh lebih besar.

Satu operasi bahkan dapat membangun ribuan interaksi yang terlihat personal secara bersamaan.

Korban dapat menerima pesan yang terasa seperti dibuat khusus untuk dirinya.

Pelaku dapat merespons pertanyaan, membangun kepercayaan dan mempertahankan komunikasi tanpa harus melakukan semuanya secara manual.

Modus penipuan romantis juga dapat memanfaatkan kemampuan serupa.

AI dapat menghasilkan respons yang sesuai konteks sepanjang waktu, bahkan memungkinkan interaksi video deepfake secara langsung sehingga sosok palsu terlihat semakin meyakinkan.

Pada titik ini, korban tidak lagi hanya berhadapan dengan pesan spam yang mudah dikenali.