AI Deepfake Bisa Mengguncang Pasar Keuangan, Investor Terancam Terjebak Informasi Palsu

Mereka dapat berhadapan dengan sosok digital yang berbicara dengan bahasa yang terasa natural, mengetahui informasi tentang dirinya dan mampu merespons percakapan secara real-time.

Carpenter sendiri pernah melakukan eksperimen etis dengan sistem scam berbasis AI yang mampu melakukan percakapan telepon secara langsung menggunakan suara hasil kloning.

Sistem tersebut mampu membangun hubungan dengan target, menyamar sebagai individu yang dipercaya dan mendorong target memberikan informasi atau melakukan tindakan tertentu.

Inilah yang membuat ancaman AI berbeda dari banyak modus penipuan sebelumnya.

AI tidak hanya membuat penipuan menjadi lebih realistis.

AI membuat penipuan dapat dipersonalisasi dalam skala besar.

Sistem AI dapat menganalisis informasi publik mengenai seseorang, kemudian menghasilkan pesan yang dirancang untuk mengeksploitasi kelemahan atau kepentingan orang tersebut.

Dengan kata lain, pelaku tidak perlu lagi mengirim satu pesan yang sama kepada ribuan orang dan berharap ada yang tertipu.

Mereka dapat menggunakan teknologi untuk membuat ribuan pendekatan berbeda, masing-masing disesuaikan dengan target.

Di dunia investasi, kemampuan tersebut menjadi sangat berbahaya.

Seseorang yang sedang mencari peluang investasi dapat menerima informasi palsu yang dirancang khusus berdasarkan minatnya.

Investor yang sedang khawatir terhadap kondisi pasar dapat menjadi sasaran pesan yang sengaja dibuat untuk memperbesar ketakutannya.

Sementara investor yang sedang mengejar keuntungan dapat diarahkan menuju peluang investasi palsu yang terlihat sangat meyakinkan.