Penyebaran Konten Ilegal di Media Sosial Marak, Bagaimana Mengaturnya?

Indonesia belum mengatur tata cara penyelenggara media sosial mengatur konten ilegal. Terlepas kontroversinya, sejauh ini Undang Undang Informasi dan Transaksi Eletronik (UU ITE) dan peraturan turunannya yang mengatur konten di internet. Hanya saja, pengaturannya lebih berfokus pada tanggung jawab pemerintah dan pengguna media sosial, sementara tanggung jawab penyelenggara sistem elektronik belum detail.

Ini menjadi masalah besar mengingat yang berkuasa dalam mengatur (misalnya: menghapus) konten di media sosial adalah platformnya, sedangkan pemerintah memiliki kuasa yang terbatas karena bisa saja penyelenggara media sosial tidak mengabulkan aduan dari pemerintah karena alasan melanggar kebebasan berpendapat.

Ini pernah terjadi ketika pemerintah mengancam memblokir Facebook pada tahun 2022 karena belum melakukan pendaftaran ke Kominfo. Namun, warganet mengecam tindakan ini.

Mulai dari revisi UU ITE

Mengingat pentingnya peran penyelenggara media sosial dalam menentukan efektivitas moderasi konten, tim peneliti PR2Media menilai pengaturan tanggung jawab konten bisa dimasukkan ke dalam Peraturan Pemerintah sebagai turunan dari UU ITE yang baru saja direvisi. Revisi yang kedua ini mengatur tanggung jawab platform secara umum, sementara pengaturan teknisnya diserahkan kepada Peraturan Pemerintah.

Berikut ada beberapa usulan regulasi yang bisa dimasukkan ke Peraturan Pemerintah:

1. Pemerintah sebaiknya mewajibkan penyelenggara media sosial menyampaikan mekanisme yang mereka gunakan untuk mengenali dan menentukan konten ilegal, baik melalui kecerdasan buatan, manusia, maupun kombinasi keduanya.

Hingga saat ini, informasi tentang jumlah moderator manusia yang dipekerjakan di Indonesia belum pernah diumumkan platform. Mengingat keberagaman masyarakat Indonesia, moderator manusia pun idealnya mewakili keberagaman itu

2. Platform wajib menyediakan informasi bagi pengguna yang mengalami penangguhan konten atau akunnya. Informasi tersebut memuat penjelasan mengenai pelanggaran yang dilakukan, cara penyelenggara media sosial mendeteksi pelanggaran, dan langkah banding yang dapat ditempuh oleh pengguna.

3. Platform wajib menyediakan mekanisme banding untuk pengguna yang tidak puas dengan keputusan moderasi konten. Pemrosesan konten ilegal oleh penyelenggara media sosial tidak selalu memuaskan semua pihak. Untuk itu, penyelenggara media sosial wajib menyediakan sistem yang memungkinkan pengguna atau pemerintah mengajukan banding.

3. Platform wajib mempublikasikan laporan tahunan tentang aduan dari masyarakat dan pemerintah terkait konten ilegal serta tindakan penyelenggara media sosial dalam menindaklanjutinya. Laporan itu terdiri dari aduan yang diterima dari pengguna dan pemerintah Indonesia, jumlah total konten yang dikenai sanksi dan jumlah total akun ditangguhkan, dan jumlah banding terhadap keputusan sanksi terhadap konten atau akun.

4. Pemerintah memberikan sanksi jika sistem moderasi tidak ditegakkan oleh platform. Sanksi ini idealnya didasarkan pada tingkat "kegagalan" dari sistem yang dimiliki platform untuk memitigasi konten ilegal. Jadi sanksinya bukan kasus per kasus, tapi dengan melihat sistem yang sudah ditegakkan platform untuk mematuhi regulasi.

Hingga sekarang, belum ada resep regulasi di negara mana pun yang sudah teruji efektif meredam konten ilegal di media sosial. Digital Services Act di Uni Eropa juga masih dalam proses pemberlakuan.