OpenAI Perkenalkan Alat Kloning Suara 'Voice Engine'

Mengakui masalah ini, OpenAI mengatakan pihaknya "mengambil pendekatan yang hati-hati dan terinformasi terhadap rilis yang lebih luas dikarenakan potensi penyalahgunaan suara sintetis."

Pengungkapan tersebut dilakukan beberapa bulan setelah seorang konsultan politik yang bekerja untuk kampanye calon presiden saingan Joe Biden dari Partai Demokrat, mengaku berada di balik robocall yang meniru pemimpin AS tersebut.

Panggilan telepon yang dibuat oleh AI, yang merupakan gagasan dari anggota Kongres Minnesota Dean Phillips, menampilkan seperti suara Biden yang mendesak masyarakat untuk tidak memberikan suara pada pemilihan pendahuluan di New Hampshire pada bulan Januari.

Insiden ini menimbulkan kekhawatiran di kalangan para ahli yang khawatir akan banyaknya disinformasi palsu yang didukung AI dalam pemilihan presiden tahun 2024 serta pemilu penting lainnya di seluruh dunia tahun ini.

OpenAI mengatakan mitra yang menguji Voise Engine menyetujui aturan tersebut termasuk mewajibkan persetujuan eksplisit dan berdasarkan informasi dari siapa pun yang suaranya diduplikasi menggunakan alat tersebut.
Halaman Selanjutnya....