AI Deepfake Bisa Mengguncang Pasar Keuangan, Investor Terancam Terjebak Informasi Palsu

WASHINGTON DC - Kecerdasan buatan atau AI sedang membuka babak baru dalam dunia penipuan keuangan.

Jika sebelumnya penipu membutuhkan kemampuan teknis tinggi untuk membuat informasi palsu terlihat meyakinkan, kini perkembangan AI membuat proses tersebut jauh lebih mudah. Suara dapat ditiru, wajah dapat direkayasa, video dapat dibuat seolah-olah nyata, sementara percakapan dengan korban dapat berlangsung secara otomatis dan sangat personal.

Yang lebih mengkhawatirkan, ancamannya tidak lagi berhenti pada korban individu.

AI deepfake berpotensi digunakan untuk memengaruhi sentimen investor, memicu kepanikan, bahkan mengguncang pasar keuangan sebelum informasi yang sebenarnya sempat diverifikasi.

Peringatan itu disampaikan Perry Carpenter, Chief Human Risk Management Strategist di KnowBe4, dalam pernyataannya kepada Securities and Exchange Commission atau SEC baru-baru ini.

Carpenter mengatakan dunia kini berada pada titik penting karena AI secara fundamental telah mengubah karakter risiko penipuan. Teknologi yang semakin canggih membuat penipuan menjadi lebih mudah dilakukan, dapat diperbanyak dalam skala besar, sekaligus semakin sulit dibedakan dari komunikasi yang asli.

Salah satu gambaran paling mengkhawatirkan adalah ketika deepfake digunakan bukan sekadar untuk mencuri uang dari seseorang, tetapi untuk memanipulasi persepsi jutaan investor.

Bayangkan sebuah video yang terlihat benar-benar menampilkan pejabat penting bank sentral. Dalam video tersebut, sang pejabat seolah mengumumkan kenaikan suku bunga darurat atau perubahan besar dalam kebijakan moneter.

Video itu kemudian menyebar luas di media sosial.

Investor yang melihatnya mungkin langsung bereaksi. Harga saham dapat bergerak, mata uang dapat berfluktuasi, atau pelaku pasar mengambil keputusan berdasarkan informasi tersebut.

Beberapa saat kemudian barulah diketahui bahwa video itu palsu.

Namun masalahnya, pasar mungkin sudah lebih dulu bereaksi.

Menurut Carpenter, inilah salah satu karakter baru ancaman AI: kecepatan manipulasi bisa melampaui kecepatan manusia dalam melakukan verifikasi.

Dan ketika menyangkut pasar keuangan, selisih waktu beberapa menit saja dapat menjadi sangat berarti.

AI juga dapat digunakan untuk menciptakan apa yang disebut sebagai konsensus palsu.

Bot berbasis AI dapat menghasilkan sejumlah besar komentar, opini, unggahan, atau percakapan yang seolah-olah berasal dari banyak orang. Padahal semuanya dapat dikendalikan oleh pihak yang sama.

Tujuannya adalah menciptakan persepsi bahwa masyarakat atau investor secara luas memiliki pandangan tertentu terhadap sebuah perusahaan, saham atau kebijakan.

Jika cukup banyak orang mempercayai persepsi tersebut, keputusan investasi dapat ikut berubah.

Dengan demikian, AI tidak hanya menjadi alat untuk melakukan financial fraud, tetapi juga alat untuk memengaruhi "minds"—pikiran, persepsi dan sentimen publik.

Carpenter membagi ancaman penipuan pada dasarnya ke dalam dua kelompok besar: penipuan yang mengejar uang dan penipuan yang bertujuan memengaruhi pikiran.

Keduanya kini dapat diperkuat oleh AI.

Dalam penipuan yang secara langsung mengejar uang, misalnya, AI dapat digunakan untuk membuat pelaku terlihat seperti orang yang dipercaya korban.

Suara seorang eksekutif dapat dikloning. Wajahnya dapat dibuat muncul dalam panggilan video. Pesan yang dikirim pun dapat disesuaikan dengan situasi dan karakter target.

Kasus nyata pernah terjadi di Hong Kong pada awal 2024.

Seorang pegawai bagian keuangan tertipu hingga mengirimkan sekitar USD 25 juta setelah mengikuti konferensi video dengan orang-orang yang tampak seperti para eksekutif perusahaan. Mereka ternyata merupakan rekayasa digital menggunakan deepfake.

Kasus tersebut menunjukkan bahwa deepfake bukan lagi sekadar teknologi untuk membuat video palsu yang menghibur.

Teknologi ini sudah dapat digunakan dalam operasi penipuan yang menyasar transaksi bernilai sangat besar.

Dan masalahnya, kemampuan semacam itu kini semakin mudah diperluas.

Carpenter menyebut AI sebagai force multiplier bagi para pelaku penipuan. Teknologi yang sebelumnya membutuhkan keahlian tinggi kini dapat digunakan oleh pelaku yang relatif tidak canggih untuk menghasilkan penipuan yang terlihat profesional.

Perangkat yang dahulu identik dengan aktor negara atau kelompok dengan kemampuan teknis tinggi kini dapat diakses secara luas melalui internet.

Akibatnya, batas antara penipu amatir dan operasi penipuan canggih semakin kabur.

Salah satu ancaman lainnya datang dari penipuan investasi.

Skema seperti pig butchering dapat memanfaatkan AI untuk membuat dokumen keuangan palsu, platform perdagangan palsu dan komunikasi yang dirancang secara khusus untuk setiap korban.

Jika sebelumnya seorang penipu hanya mampu berkomunikasi dengan sejumlah kecil korban dalam satu waktu, AI memungkinkan proses tersebut dilakukan dalam skala yang jauh lebih besar.

Satu operasi bahkan dapat membangun ribuan interaksi yang terlihat personal secara bersamaan.

Korban dapat menerima pesan yang terasa seperti dibuat khusus untuk dirinya.

Pelaku dapat merespons pertanyaan, membangun kepercayaan dan mempertahankan komunikasi tanpa harus melakukan semuanya secara manual.

Modus penipuan romantis juga dapat memanfaatkan kemampuan serupa.

AI dapat menghasilkan respons yang sesuai konteks sepanjang waktu, bahkan memungkinkan interaksi video deepfake secara langsung sehingga sosok palsu terlihat semakin meyakinkan.

Pada titik ini, korban tidak lagi hanya berhadapan dengan pesan spam yang mudah dikenali.

Mereka dapat berhadapan dengan sosok digital yang berbicara dengan bahasa yang terasa natural, mengetahui informasi tentang dirinya dan mampu merespons percakapan secara real-time.

Carpenter sendiri pernah melakukan eksperimen etis dengan sistem scam berbasis AI yang mampu melakukan percakapan telepon secara langsung menggunakan suara hasil kloning.

Sistem tersebut mampu membangun hubungan dengan target, menyamar sebagai individu yang dipercaya dan mendorong target memberikan informasi atau melakukan tindakan tertentu.

Inilah yang membuat ancaman AI berbeda dari banyak modus penipuan sebelumnya.

AI tidak hanya membuat penipuan menjadi lebih realistis.

AI membuat penipuan dapat dipersonalisasi dalam skala besar.

Sistem AI dapat menganalisis informasi publik mengenai seseorang, kemudian menghasilkan pesan yang dirancang untuk mengeksploitasi kelemahan atau kepentingan orang tersebut.

Dengan kata lain, pelaku tidak perlu lagi mengirim satu pesan yang sama kepada ribuan orang dan berharap ada yang tertipu.

Mereka dapat menggunakan teknologi untuk membuat ribuan pendekatan berbeda, masing-masing disesuaikan dengan target.

Di dunia investasi, kemampuan tersebut menjadi sangat berbahaya.

Seseorang yang sedang mencari peluang investasi dapat menerima informasi palsu yang dirancang khusus berdasarkan minatnya.

Investor yang sedang khawatir terhadap kondisi pasar dapat menjadi sasaran pesan yang sengaja dibuat untuk memperbesar ketakutannya.

Sementara investor yang sedang mengejar keuntungan dapat diarahkan menuju peluang investasi palsu yang terlihat sangat meyakinkan.

Ancaman bahkan dapat berkembang menjadi manipulasi terhadap kepercayaan publik.

Carpenter memperingatkan tentang fenomena yang disebut "Liar's Dividend".

Semakin masyarakat mengetahui bahwa foto, suara dan video dapat dibuat oleh AI, semakin mudah pula seseorang menyangkal bukti yang sebenarnya autentik dengan mengatakan bahwa bukti tersebut mungkin saja merupakan deepfake.

Dengan demikian, AI menciptakan dua masalah sekaligus.

Pertama, orang dapat mempercayai sesuatu yang sebenarnya palsu.

Kedua, orang dapat menolak sesuatu yang sebenarnya benar karena menganggapnya mungkin palsu.

Dampaknya terhadap pasar keuangan bisa sangat serius.

Bayangkan muncul video palsu yang menunjukkan sebuah bank mengalami masalah besar.

Atau beredar gambar buatan AI yang memperlihatkan antrean panjang nasabah di ATM.

Jika informasi itu dipercaya, masyarakat dapat berbondong-bondong menarik uang mereka.

Padahal situasi sebenarnya mungkin normal.

Carpenter mengutip kekhawatiran bahwa konten AI semacam itu dapat memicu kepanikan pasar atau bahkan aksi penarikan dana secara massal.

Di sinilah ancaman deepfake berubah dari persoalan keamanan siber menjadi persoalan stabilitas keuangan.

Karena ketika informasi palsu bergerak lebih cepat daripada klarifikasi, dampaknya tidak lagi hanya dirasakan satu korban.

Ia dapat menyebar ke perusahaan, investor dan pasar secara keseluruhan.

Karena itu, Carpenter menilai pendekatan keamanan lama tidak lagi cukup.

Lembaga keuangan perlu menerapkan sistem yang secara khusus mampu mendeteksi penipuan berbasis AI, termasuk deepfake detection, analisis perilaku dan pemantauan transaksi yang tidak biasa.

Untuk transaksi bernilai tinggi, proses verifikasi juga perlu diperkuat dengan autentikasi berlapis.

Komunikasi yang tampak berasal dari seorang eksekutif tidak boleh otomatis dipercaya hanya karena suara dan wajahnya terlihat benar.

Carpenter juga mendorong perusahaan untuk meningkatkan pelatihan karyawan.

Sebab dalam banyak kasus, manusia tetap menjadi target utama.

Teknologi keamanan dapat membantu, tetapi keputusan akhir sering kali tetap berada di tangan manusia yang menerima telepon, membaca pesan atau menyaksikan sebuah video.

Karena itu, karyawan perlu dilatih untuk mengenali tanda-tanda manipulasi AI dan memahami bahwa identitas digital dapat dipalsukan dengan tingkat kemiripan yang semakin tinggi.

Di sisi regulator, Carpenter merekomendasikan SEC membentuk satuan tugas khusus untuk menangani penipuan keuangan berbasis AI.

Menurutnya, unit semacam itu dapat memantau pola penipuan, mengeluarkan panduan bagi industri dan bekerja sama dengan lembaga keuangan untuk memperkuat mitigasi risiko.

Ia juga mendorong peningkatan transparansi mengenai penggunaan AI serta penggunaan teknologi seperti watermarking, tanda tangan digital atau mekanisme verifikasi lainnya untuk membantu memastikan keaslian informasi keuangan.

Namun teknologi saja tidak akan cukup.

Masyarakat juga harus meningkatkan literasi digital.

Investor perlu membiasakan diri berhenti sejenak sebelum bereaksi terhadap informasi yang dapat memengaruhi keputusan finansial.

Sumber harus diperiksa. Informasi penting perlu dibandingkan dengan sumber terpercaya. Dan semakin besar dampak sebuah informasi terhadap keputusan keuangan, semakin penting pula proses verifikasinya.

Sebab AI telah menciptakan situasi baru: sesuatu yang terlihat, terdengar dan terasa nyata belum tentu benar-benar terjadi.

Carpenter menyebut kondisi ini sebagai sebuah perlombaan.

Di satu sisi, pelaku kejahatan memiliki teknologi, motivasi dan kesempatan untuk mengembangkan metode baru.

Di sisi lain, regulator, perusahaan dan masyarakat juga memiliki teknologi serta kemampuan untuk membangun pertahanan.

Masalahnya adalah waktu.

Perkembangan AI berlangsung jauh lebih cepat dibandingkan kemampuan manusia untuk beradaptasi.

Karena itu, ancaman terbesar bukan hanya bahwa AI akan membuat penipuan semakin canggih.

Ancaman sebenarnya adalah ketika kemampuan manusia untuk memverifikasi informasi tertinggal terlalu jauh dari kemampuan mesin untuk menciptakan kebohongan.

Dan di pasar keuangan, kebohongan yang dipercaya selama beberapa menit saja bisa memiliki konsekuensi yang jauh lebih besar daripada yang dibayangkan.

AI deepfake akhirnya bukan lagi sekadar persoalan apakah sebuah video asli atau palsu.

Ini menyangkut apakah investor masih dapat mempercayai apa yang mereka lihat, dengar dan baca ketika keputusan bernilai besar harus dibuat dalam hitungan detik.

Menurut Carpenter, ancaman tersebut sudah ada sekarang—bukan sekadar kemungkinan di masa depan.

Karena itu, pertahanan tidak bisa menunggu sampai teknologi pendeteksi menjadi sempurna.

Regulasi, teknologi keamanan, pelatihan perusahaan dan literasi publik harus berjalan bersamaan.

Sebab semakin cepat AI berkembang, semakin kecil pula jarak waktu yang tersedia bagi manusia untuk menyadari bahwa mereka sedang ditipu.