Tak Hanya Lewat Algoritma, AI Juga Pintar Berkonten untuk Pinjol dan Judol

Setelah AI mampu meniru ekspresi dan intonasi secara meyakinkan, pelaku menyisipkan konten palsu seolah tokoh tersebut mempromosikan pinjol atau judol. Tujuannya adalah untuk menarik perhatian dan membangun kepercayaan calon korban.

Kasus terbaru di Indonesia, beredar video aktor Gading Marten  mempromosikan sebuah situs judol. Setelah ditelusuri oleh banyak media, video tersebut merupakan hasil rekayasa.

Butuh regulasi mengatur penyalahgunaan AI: belajar dari Cina

Meski sudah banyak kasus penyalahgunaan yang terjadi, hingga saat ini, Indonesia masih belum memiliki regulasi yang tegas dan terperinci untuk mengatur AI, terutama dalam konteks judol dan pinjol.

Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) mengategorikan AI sebagai “agen elektronik”, sehingga segala kewajiban hukum dibebankan kepada penyedia perangkat berbasis AI, bukan pada AI itu sendiri sebagai subjek hukum.

Artinya, AI hanya alat atau perantara, bukan pihak yang bisa dimintai pertanggungjawaban langsung di mata hukum. Dan jika ada pelanggaran, masih mengacu pada regulasi umum seperti perlindungan konsumen, tanggung jawab perdata/pidana oleh pengelola sistem, dan sebagainya.

Adapun panduan etika penggunaan AI di industri fintech hanya diatur dalam Surat Edaran Menteri Komunikasi dan Informatika (Menkominfo) Nomor 9 Tahun 2023 yang sifatnya sebatas panduan atau “soft regulation” dan tidak memiliki kekuatan hukum yang mengikat.

Begitu pula panduan kode etik yang diluncurkan oleh Otoritas Jasa Keuangan (OJK) bersama asosiasi fintech, hanya berlaku sebagai pedoman etika tanpa sanksi hukum jika terjadi pelanggaran.

Indonesia semestinya belajar dari Cina. Sejak 2017, mereka sudah menerbitkan New Generative AI Development Plan sebagai fondasi utama tata kelola berbagai macam jenis AI, termasuk algoritma rekomendasi dan deep synthesis.
Sebagai turunannya, Cina menerbitkan aturan yang lebih rinci dan terstruktur.

Provisions on the Management of Algorithmic Recommendations in Internet Information Services yang dirilis pada tahun 2021  menjadi salah satu dari tiga regulasi utama terkait AI dan algoritma di Cina.

Pasal 7 aturan ini melarang penggunaan algoritma yang menyebabkan adiksi atau perilaku konsumsi berlebihan, seperti pada kasus judol dan pinjol. Kemudian Pasal 12 melarang penggunaan algoritma untuk manipulasi peringkat, hasil pencarian, atau rekomendasi yang merugikan pengguna, seperti pada kasus promosi judol atau pinjol.

Pada 2022, Cina juga mengeluarkan Provisions on the Administration of Deep Synthesis Internet Information Services, yang mengatur teknologi deep synthesis seperti deepfake untuk memastikan bahwa penggunaannya tidak merugikan kepentingan publik dan keamanan nasional.

Regulasi ini melarang penggunaan teknologi deepfake untuk menghasilkan konten yang melanggar hukum. Serta mewajibkan pelabelan konten deepfake untuk membedakan mana konten yang asli dan mana yang telah dimanipulasi dalam tujuan komersial. Secara spesifik, aturan pelabelan konten sintetik seperti deepfake bahkan baru saja dituangkan dalam Measures for the Labelling of Artificial Intelligence-Generated and Synthetic Content pada 14 Maret 2025.