Meta Tambah Perlindungan untuk Remaja, Orang Tua Akan Diberi Notifikasi Jika AI Mendeteksi Tekanan Emosional

Langkah tersebut melengkapi kebijakan yang telah diterapkan di Facebook dan Instagram. Pada 2025, Meta mengaku telah mengirimkan lebih dari 19.000 rujukan kepada layanan darurat di berbagai negara setelah mendeteksi potensi risiko bunuh diri melalui unggahan pengguna.

Gandeng Puluhan Ahli Kesehatan Mental

Untuk menyempurnakan respons Meta AI terhadap isu kesehatan mental, perusahaan melibatkan lebih dari 75 tenaga kesehatan mental yang memiliki keahlian di bidang psikologi remaja.

Para ahli tersebut mengevaluasi ratusan skenario percakapan antara remaja dan AI, kemudian memberikan masukan mengenai kualitas respons, tingkat empati, hingga rekomendasi perbaikan.

Meta juga berkonsultasi secara rutin dengan AI Wellbeing Expert Council, Suicide and Self-Harm Advisory Group, serta kelompok penasihat remaja yang dibentuk perusahaan.

Hasil evaluasi tersebut digunakan untuk memastikan Meta AI tidak hanya mengarahkan pengguna ke layanan bantuan, tetapi juga mampu memvalidasi perasaan mereka dan menjaga percakapan tetap berlangsung secara suportif.

Psikolog berlisensi di Amerika Serikat sekaligus Profesor Psikologi Konseling di Hankuk University of Foreign Studies, Korea Selatan, Dr. Ji-yeon Lee, menilai proses evaluasi yang dilakukan Meta cukup komprehensif.

Menurutnya, peninjauan tidak hanya berfokus pada respons awal terhadap isu bunuh diri, tetapi juga memperhatikan konteks percakapan, tindak lanjut yang tepat, hingga berbagai tingkat risiko yang mungkin muncul.

Percakapan AI untuk Remaja Diperketat

Meta juga memperluas penerapan pembatasan konten pada Meta AI bagi pengguna remaja. Melalui pengaturan bawaan untuk akun remaja, Meta AI hanya akan memberikan respons yang sesuai dengan usia pengguna. AI tidak akan melayani percakapan romantis maupun seksual dengan remaja, tidak memberikan resep minuman beralkohol, serta akan mengarahkan pengguna ke topik yang lebih aman.

Selain itu, fitur Limited Content yang sebelumnya tersedia di Instagram kini juga diterapkan pada Meta AI. Apabila orang tua mengaktifkan pengaturan tersebut, sistem akan membatasi lebih banyak jenis percakapan yang dapat dilakukan remaja dengan AI.

Meta menilai berbagai pembaruan tersebut merupakan bagian dari upaya membangun pengalaman penggunaan AI yang lebih aman, bertanggung jawab, dan sesuai dengan kebutuhan pengguna muda, sekaligus memastikan orang tua memiliki informasi yang diperlukan untuk memberikan dukungan ketika anak menghadapi tekanan emosional.