Lindungi Anak, Meta Siapkan Fitur Pengawasan Interaksi Pengguna Remaja Berbasis AI

JAKATRA - Meta mengumumkan pratinjau fitur kendali orang tua terbaru yang ditujukan untuk mengawasi percakapan pengguna remaja dengan karakter berbasis kecerdasan buatan (AI) di platformnya.

Dilansir dari Tech Crunch pada Sabtu, fitur tersebut akan mulai diluncurkan tahun depan yang memungkinkan opsi untuk memblokir karakter tertentu dan memantau topik percakapan.

Dalam beberapa bulan mendatang, orang tua akan memiliki kemampuan untuk mematikan seluruh percakapan anak mereka dengan karakter AI. Meski demikian, langkah tersebut tidak akan memblokir akses ke Meta AI, chatbot AI utama milik perusahaan. Meta AI hanya akan menyajikan konten yang dinilai sesuai usia.

Selain itu, orang tua juga dapat menonaktifkan percakapan dengan karakter AI tertentu jika ingin pengawasan lebih selektif. Mereka juga akan menerima informasi mengenai topik yang dibahas pengguna remaja dengan karakter AI maupun Meta AI.

Meta menyebutkan fitur ini akan pertama kali tersedia di Instagram pada awal tahun depan, dan diluncurkan dalam bahasa Inggris di Amerika Serikat, Inggris, Kanada, dan Australia.

“Kami memahami bahwa orang tua sudah memiliki banyak tanggung jawab dalam memastikan anak remaja mereka aman di internet, dan kami berkomitmen menyediakan alat serta sumber daya yang memudahkan mereka, terutama dalam menghadapi teknologi baru seperti AI,” kata Meta.

Awal pekan ini, Meta menyampaikan bahwa konten dan penggunaan fitur AI untuk pengguna di bawah umur akan mengikuti standar klasifikasi film PG-13 serta menghindari topik sensitif seperti kekerasan ekstrem, ketelanjangan, dan penggunaan narkoba secara eksplisit.

Meta menambahkan bahwa saat ini pengguna berusia remaja hanya diizinkan berinteraksi dengan karakter AI yang telah dikurasi sesuai pedoman konten ramah usia.

Orang tua juga dapat menetapkan batas waktu penggunaan AI oleh anak mereka. Sebelumnya, Instagram telah memanfaatkan AI untuk mendeteksi upaya pengguna memalsukan usia guna menghindari batasan umur aplikasi.

Dalam beberapa pekan terakhir, sejumlah platform digital seperti OpenAI, Meta, dan YouTube merilis fitur pengamanan baru yang berfokus pada keselamatan remaja.

Langkah ini muncul di tengah meningkatnya kekhawatiran soal dampak media sosial terhadap kesehatan mental remaja serta gugatan hukum terhadap perusahaan AI yang diduga berkontribusi pada kasus bunuh diri di kalangan remaja.