Meta Tambah Perlindungan untuk Remaja, Orang Tua Akan Diberi Notifikasi Jika AI Mendeteksi Tekanan Emosional

JAKARTA – Meta memperkenalkan serangkaian fitur keamanan baru untuk melindungi remaja yang berinteraksi dengan Meta AI. Salah satu pembaruan utamanya adalah pemberitahuan kepada orang tua apabila percakapan remaja dengan Meta AI menunjukkan indikasi tekanan emosional serius, termasuk pikiran bunuh diri atau tindakan melukai diri sendiri.

Fitur tersebut akan tersedia bagi pengguna fitur pengawasan orang tua (parental supervision) di Instagram. Melalui sistem ini, orang tua akan menerima notifikasi jika Meta AI mendeteksi adanya percakapan yang mengindikasikan risiko bunuh diri atau menyakiti diri sendiri, sekaligus memperoleh panduan dari para ahli mengenai cara mendampingi anak mereka.

Meta menjelaskan bahwa langkah ini merupakan bagian dari upaya menghadirkan pengalaman penggunaan AI yang sesuai dengan usia sekaligus memastikan remaja memperoleh dukungan ketika mengalami tekanan emosional.

AI Arahkan Remaja ke Bantuan Profesional

Sebelumnya, Meta AI telah dirancang untuk secara otomatis mengarahkan remaja yang menunjukkan tanda-tanda ingin bunuh diri atau melukai diri sendiri menuju layanan bantuan krisis. AI juga akan mendorong mereka berbicara dengan orang tua, konselor, atau orang dewasa lain yang dipercaya.

Kini, sistem tersebut diperluas dengan kemampuan mengirimkan pemberitahuan kepada orang tua apabila percakapan dinilai menunjukkan risiko tinggi.

Meta menyatakan sistem pendeteksi ini dikembangkan bersama para pakar kesehatan mental untuk mengenali berbagai bentuk ungkapan, termasuk pernyataan yang disampaikan secara tidak langsung atau tersirat.

Sebelum notifikasi dikirimkan, seluruh percakapan yang ditandai AI akan melalui proses peninjauan manual guna meminimalkan kesalahan identifikasi.

Perusahaan mengakui pendekatan tersebut dapat menghasilkan pemberitahuan pada situasi yang sebenarnya tidak berisiko. Namun, Meta memilih mengutamakan langkah pencegahan demi keselamatan remaja.

CEO sekaligus Co-Founder ConnectSafely, Larry Magid, menilai kebijakan tersebut mampu menyeimbangkan kebutuhan privasi remaja dengan peran orang tua dalam menjaga keselamatan anak.

"Saya percaya remaja berhak atas privasi mereka. Namun, saya juga percaya bahwa orang tua perlu diberi tahu apabila ada indikasi anak remaja mereka berisiko menyakiti diri sendiri," ujarnya melalui keterangan tertulis pada Jumat (17/7).

Fitur notifikasi ini telah diluncurkan bagi pengguna di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menargetkan layanan tersebut tersedia secara global pada akhir tahun ini.

Kembangkan Sistem Menghubungi Layanan Darurat

Selain memberikan notifikasi kepada orang tua, Meta juga tengah mengembangkan sistem yang memungkinkan perusahaan menghubungi layanan darurat apabila mendeteksi risiko bunuh diri yang bersifat mendesak, baik pada pengguna remaja maupun dewasa.

Langkah tersebut melengkapi kebijakan yang telah diterapkan di Facebook dan Instagram. Pada 2025, Meta mengaku telah mengirimkan lebih dari 19.000 rujukan kepada layanan darurat di berbagai negara setelah mendeteksi potensi risiko bunuh diri melalui unggahan pengguna.

Gandeng Puluhan Ahli Kesehatan Mental

Untuk menyempurnakan respons Meta AI terhadap isu kesehatan mental, perusahaan melibatkan lebih dari 75 tenaga kesehatan mental yang memiliki keahlian di bidang psikologi remaja.

Para ahli tersebut mengevaluasi ratusan skenario percakapan antara remaja dan AI, kemudian memberikan masukan mengenai kualitas respons, tingkat empati, hingga rekomendasi perbaikan.

Meta juga berkonsultasi secara rutin dengan AI Wellbeing Expert Council, Suicide and Self-Harm Advisory Group, serta kelompok penasihat remaja yang dibentuk perusahaan.

Hasil evaluasi tersebut digunakan untuk memastikan Meta AI tidak hanya mengarahkan pengguna ke layanan bantuan, tetapi juga mampu memvalidasi perasaan mereka dan menjaga percakapan tetap berlangsung secara suportif.

Psikolog berlisensi di Amerika Serikat sekaligus Profesor Psikologi Konseling di Hankuk University of Foreign Studies, Korea Selatan, Dr. Ji-yeon Lee, menilai proses evaluasi yang dilakukan Meta cukup komprehensif.

Menurutnya, peninjauan tidak hanya berfokus pada respons awal terhadap isu bunuh diri, tetapi juga memperhatikan konteks percakapan, tindak lanjut yang tepat, hingga berbagai tingkat risiko yang mungkin muncul.

Percakapan AI untuk Remaja Diperketat

Meta juga memperluas penerapan pembatasan konten pada Meta AI bagi pengguna remaja. Melalui pengaturan bawaan untuk akun remaja, Meta AI hanya akan memberikan respons yang sesuai dengan usia pengguna. AI tidak akan melayani percakapan romantis maupun seksual dengan remaja, tidak memberikan resep minuman beralkohol, serta akan mengarahkan pengguna ke topik yang lebih aman.

Selain itu, fitur Limited Content yang sebelumnya tersedia di Instagram kini juga diterapkan pada Meta AI. Apabila orang tua mengaktifkan pengaturan tersebut, sistem akan membatasi lebih banyak jenis percakapan yang dapat dilakukan remaja dengan AI.

Meta menilai berbagai pembaruan tersebut merupakan bagian dari upaya membangun pengalaman penggunaan AI yang lebih aman, bertanggung jawab, dan sesuai dengan kebutuhan pengguna muda, sekaligus memastikan orang tua memiliki informasi yang diperlukan untuk memberikan dukungan ketika anak menghadapi tekanan emosional.