Meta Perbarui Aturan Keamanan AI, Batasi Anak dari Topik Sensitif

JAKARTA - Meta mengumumkan penerapan aturan keamanan dengan mengubah cara melatih produk kecerdasan buatannya (AI) guna memprioritaskan keselamatan remaja dalam menggunakan chatbot.

Melansir laporan TechCrunch, Minggu (31/8), perusahaan saat ini akan melatih chatbot untuk tidak lagi berinteraksi dalam percakapan terkait topik sensitif seperti melukai diri sendiri, bunuh diri, gangguan makan, atau percakapan romantis yang berpotensi tidak pantas dan membatasi akses hanya pada sejumlah karakter AI tertentu untuk pengguna di bawah umur.

“Saat kami terus menyempurnakan sistem kami, kami menambahkan lebih banyak pembatasan sebagai langkah pencegahan tambahan, termasuk melatih AI kami untuk tidak membahas topik-topik ini dengan remaja, tetapi mengarahkan mereka ke sumber daya ahli,” kata juru bicara Meta Stephanie Otway.

Meta mengatakan perubahan ini bersifat sementara dan akan merilis pembaruan keselamatan yang lebih kuat dan tahan lama bagi pengguna di bawah umur di masa mendatang.

“Pembaruan ini sudah berlangsung, dan kami akan terus menyesuaikan pendekatan kami untuk membantu memastikan remaja memiliki pengalaman yang aman dan sesuai dengan usia dengan AI,” katanya.

Stephanie Otway mengatakan bahwa chatbot perusahaan sebelumnya dapat berbicara dengan remaja tentang semua topik ini dengan cara yang dianggap tepat oleh perusahaan. Namun, sekarang Meta menyadari bahwa ini adalah sebuah kesalahan.

“Seiring pertumbuhan komunitas kami dan berkembangnya teknologi, kami terus belajar tentang bagaimana remaja berinteraksi dengan alat-alat ini dan memperkuat perlindungan kami sesuai kebutuhan,” ujar Otway.

Tak hanya pembaruan pelatihan, Meta juga akan membatasi akses remaja terhadap karakter AI tertentu yang berpotensi melakukan percakapan yang tidak pantas. Sebagai gantinya, pengguna remaja hanya akan memiliki akses ke karakter AI yang mendorong pendidikan dan kreativitas.

Adapun penerapan aturan ini menyusul laporan investigasi terhadap Meta terkait kurangnya perlindungan AI terhadap anak di bawah umur.

Perubahan kebijakan diumumkan hanya dua minggu setelah investigasi dari Reuters menemukan dokumen kebijakan Meta internal yang tampaknya mengizinkan chatbot perusahaan terlibat dalam percakapan seksual dengan pengguna di bawah umur.

Meta menyatakan bahwa dokumen tersebut tidak konsisten dengan kebijakan umum mereka dan sejak itu telah diubah, namun laporan tersebut telah memicu kontroversi berkepanjangan mengenai risiko keselamatan anak. Ant