OpenAI Perkenalkan Alat Kloning Suara 'Voice Engine'

SAN FRANCICSO - OpenAI pada Jumat (29/3) mengungkapkan alat kloning suara yang rencananya akan dikontrol secara ketat sampai ada pengamanan untuk menghindari pemalsuan audio.

Sebuah model yang disebut "Voice Engine" pada dasarnya dapat menduplikasi ucapan seseorang berdasarkan sampel audio berdurasi 15 detik, menurut postingan blog OpenAI yang membagikan hasil pengujian alat tersebut dalam skala kecil.

"Kami menyadari bahwa menghasilkan pidato yang menyerupai suara masyarakat memiliki risiko serius, yang terutama menjadi perhatian utama pada tahun pemilu," kata perusahaan yang berbasis di San Francisco tersebut.

"Kami bekerja sama dengan mitra-mitra AS dan internasional dari berbagai kalangan pemerintahan, media, hiburan, pendidikan, masyarakat sipil, dan lainnya untuk memastikan kami memasukkan feedback dari mereka."

Para peneliti disinformasi khawatir akan maraknya penyalahgunaan aplikasi yang didukung AI pada tahun pemilu ini karena maraknya alat kloning suara yang murah, mudah digunakan, dan sulit dilacak.

Mengakui masalah ini, OpenAI mengatakan pihaknya "mengambil pendekatan yang hati-hati dan terinformasi terhadap rilis yang lebih luas dikarenakan potensi penyalahgunaan suara sintetis."

Pengungkapan tersebut dilakukan beberapa bulan setelah seorang konsultan politik yang bekerja untuk kampanye calon presiden saingan Joe Biden dari Partai Demokrat, mengaku berada di balik robocall yang meniru pemimpin AS tersebut.

Panggilan telepon yang dibuat oleh AI, yang merupakan gagasan dari anggota Kongres Minnesota Dean Phillips, menampilkan seperti suara Biden yang mendesak masyarakat untuk tidak memberikan suara pada pemilihan pendahuluan di New Hampshire pada bulan Januari.

Insiden ini menimbulkan kekhawatiran di kalangan para ahli yang khawatir akan banyaknya disinformasi palsu yang didukung AI dalam pemilihan presiden tahun 2024 serta pemilu penting lainnya di seluruh dunia tahun ini.

OpenAI mengatakan mitra yang menguji Voise Engine menyetujui aturan tersebut termasuk mewajibkan persetujuan eksplisit dan berdasarkan informasi dari siapa pun yang suaranya diduplikasi menggunakan alat tersebut.

Perusahaan juga harus menjelaskan kepada khalayak bahwa suara yang mereka dengar berasal dari AI, tambah perusahaan tersebut.

"Kami telah menerapkan serangkaian langkah keamanan, termasuk pemberian watermark untuk melacak asal audio apa pun yang dihasilkan oleh Voice Engine, serta pemantauan proaktif tentang cara penggunaannya," kata OpenAI.