Media90 (media90.id) – OpenAI baru-baru ini mengungkapkan alat kloning suara yang direncanakan akan tetap dikontrol secara ketat untuk mencegah pemalsuan audio yang bertujuan menipu pendengar.
Dilansir oleh Media90 dari posting blog OpenAI, alat ini, yang disebut Mesin Suara, mampu menduplikasi ucapan seseorang berdasarkan sampel audio berdurasi 15 detik.
Kabar baiknya, pengembang ChatGPT sedang bekerja dengan para pengembang untuk menguji model terbaru ini melalui Application Programming Interface (API), yang mampu menghasilkan ucapan yang sangat mirip dengan aslinya menggunakan sampel audio 15 detik.
Para pengembang telah sepakat untuk menerapkan kebijakan penggunaan yang ketat, yang melarang peniruan identitas individu atau organisasi lain tanpa persetujuan atau izin hukum.
Setiap mitra juga diwajibkan meminta persetujuan tertulis secara eksplisit dari pembicara asli sebelum menggunakan alat ini.
Namun, meskipun kecepatan dan realisme Text-to-Speech (TTS) dari suara kustom OpenAI menjanjikan prospek menarik untuk berbagai keperluan komersial dan konsumen, tantangan dan risiko penyalahgunaan tetap menjadi perhatian serius.
OpenAI menegaskan bahwa menghasilkan pidato yang menyerupai suara orang lain memiliki risiko serius.
Oleh karena itu, mereka mengambil pendekatan yang hati-hati dan terinformasi dalam merilis alat ini secara lebih luas, dengan memperhatikan potensi penyalahgunaan suara sintetis.
Mereka juga menegaskan bahwa mitra yang menguji Voice Engine harus menyetujui aturan yang meliputi permintaan persetujuan eksplisit dan terinformasi dari individu yang suaranya diduplikasi, serta menjelaskan kepada audiens ketika suara yang mereka dengar dihasilkan oleh AI.
Tidak hanya itu, OpenAI juga menerapkan serangkaian langkah-langkah keamanan, termasuk penggunaan watermarking untuk melacak asal-usul audio yang dihasilkan oleh Voice Engine, serta melakukan pemantauan proaktif terhadap cara penggunaannya.
Meskipun alat ini membawa potensi luar biasa dalam bidang pengembangan teknologi suara, penting untuk memastikan bahwa penggunaannya dilakukan dengan etika dan integritas yang tinggi untuk mencegah penyalahgunaan yang merugikan.
