Meta Tambah Perlindungan untuk Remaja, Orang Tua Akan Diberi Notifikasi Jika AI Mendeteksi Tekanan Emosional

JAKARTA – Meta memperkenalkan serangkaian fitur keamanan baru untuk melindungi remaja yang berinteraksi dengan Meta AI. Salah satu pembaruan utamanya adalah pemberitahuan kepada orang tua apabila percakapan remaja dengan Meta AI menunjukkan indikasi tekanan emosional serius, termasuk pikiran bunuh diri atau tindakan melukai diri sendiri.

Fitur tersebut akan tersedia bagi pengguna fitur pengawasan orang tua (parental supervision) di Instagram. Melalui sistem ini, orang tua akan menerima notifikasi jika Meta AI mendeteksi adanya percakapan yang mengindikasikan risiko bunuh diri atau menyakiti diri sendiri, sekaligus memperoleh panduan dari para ahli mengenai cara mendampingi anak mereka.

Meta menjelaskan bahwa langkah ini merupakan bagian dari upaya menghadirkan pengalaman penggunaan AI yang sesuai dengan usia sekaligus memastikan remaja memperoleh dukungan ketika mengalami tekanan emosional.

AI Arahkan Remaja ke Bantuan Profesional

Sebelumnya, Meta AI telah dirancang untuk secara otomatis mengarahkan remaja yang menunjukkan tanda-tanda ingin bunuh diri atau melukai diri sendiri menuju layanan bantuan krisis. AI juga akan mendorong mereka berbicara dengan orang tua, konselor, atau orang dewasa lain yang dipercaya.

Kini, sistem tersebut diperluas dengan kemampuan mengirimkan pemberitahuan kepada orang tua apabila percakapan dinilai menunjukkan risiko tinggi.

Meta menyatakan sistem pendeteksi ini dikembangkan bersama para pakar kesehatan mental untuk mengenali berbagai bentuk ungkapan, termasuk pernyataan yang disampaikan secara tidak langsung atau tersirat.

Sebelum notifikasi dikirimkan, seluruh percakapan yang ditandai AI akan melalui proses peninjauan manual guna meminimalkan kesalahan identifikasi.

Perusahaan mengakui pendekatan tersebut dapat menghasilkan pemberitahuan pada situasi yang sebenarnya tidak berisiko. Namun, Meta memilih mengutamakan langkah pencegahan demi keselamatan remaja.

CEO sekaligus Co-Founder ConnectSafely, Larry Magid, menilai kebijakan tersebut mampu menyeimbangkan kebutuhan privasi remaja dengan peran orang tua dalam menjaga keselamatan anak.

"Saya percaya remaja berhak atas privasi mereka. Namun, saya juga percaya bahwa orang tua perlu diberi tahu apabila ada indikasi anak remaja mereka berisiko menyakiti diri sendiri," ujarnya melalui keterangan tertulis pada Jumat (17/7).

Fitur notifikasi ini telah diluncurkan bagi pengguna di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menargetkan layanan tersebut tersedia secara global pada akhir tahun ini.

Kembangkan Sistem Menghubungi Layanan Darurat

Selain memberikan notifikasi kepada orang tua, Meta juga tengah mengembangkan sistem yang memungkinkan perusahaan menghubungi layanan darurat apabila mendeteksi risiko bunuh diri yang bersifat mendesak, baik pada pengguna remaja maupun dewasa.