Microsoft Kembangkan AI untuk Kloning Suara Manusia, Apakah Berbahaya?
Selasa, 23 Juli 2024 -
MerahPutih.com - Microsoft kini tengah mengembangkan alat kecerdasan buatan yang dapat mereplikasi ucapan manusia dengan presisi yang luar biasa.
Namun, perusahaan raksasa teknologi tersebut menolak untuk membagikannya kepada publik. Microsoft beralasan, bahwa hal tersebut memiliki “potensi risiko” penyalahgunaan.
Alat yang diberi nama VALL-E 2 itu merupakan generator text-to-speech yang dapat meniru suara hanya dari audio berdurasi beberapa detik.
Mengutip The Sun, alat tersebut dilatih untuk mengenali konsep tanpa diberikan contoh sebelumnya dalam skenario yang disebut pembelajaran zero-shot.
>VALL-E 2 Bisa Menghasilkan Ucapan yang AkuratBaca juga:
Microsoft Luncurkan Designer, Platform Desain Grafis Berbasis AI
Menurut pengembang di Microsoft Research, VALL-E 2 dapat menghasilkan "ucapan yang akurat dan alami dengan suara yang sama persis dengan suara pembicara aslinya atau sebanding dengan kinerja manusia."
Alat itu akan memanfaatkan dua fitur yang disebut Repetition Aware Sampling and Grouped Code Modeling. Para peneliti juga membandingkan VALL-E 2 dengan sampel audio dari LibriSpeech dan VCTK, yakni dua database berbahasa Inggris.
Mereka juga menggunakan ELLA-V, yaitu kerangka evaluasi untuk sintesis text-to-speech zero-shot, agar menentukan seberapa baik VALL-E dalam menangani tugas-tugas yang lebih kompleks.
Baca juga:
OneRepublic Lepas Album 'Artificial Paradise', Bicara Soal Kecerdasan Buatan
Sistem ini mungkin bisa mengalahkan para pesaingnya dalam hal ketahanan ucapan, kealamian, dan kesamaan pembicara.
Microsoft juga mengklaim, VALL-E 2 tidak akan dirilis ke publik dalam waktu dekat. Sebab, mereka menganggapnya sebagai "murni proyek penelitian".
“Saat ini, kami tidak memiliki rencana untuk memasukkan VALL-E 2 ke dalam produk atau memperluas akses ke publik,” tulis Microsoft di situsnya.
“Ini mungkin membawa risiko potensial dalam penyalahgunaan model, seperti memalsukan identifikasi suara atau meniru identitas pembicara tertentu.”
Baca juga:
Microsoft Suruh Karyawan di China Pakai iPhone 15 Ketimbang Android
Lalu, kekhawatiran Microsoft juga cukup beralasan. Baru-baru ini, para pakar keamanan siber melihat adanya ledakan penggunaan alat AI yang dilakukan oleh pelaku kejahatan, termasuk pelaku yang meniru ucapan seseorang.
Pada Januari lalu, robocall yang menggunakan suara Presiden Joe Biden, mendesak Partai Demokrat untuk tidak memberikan suara di pemilihan di New Hampshire.
Orang di balik rencana tersebut pun didakwa atas tuduhan penindasan terhadap pemilih dan peniruan identitas seorang kandidat.
Microsoft juga mendapatkan pengawasan ketat atas penerapan AI-nya, baik dalam bidang antimonopoli hingga privasi data. (sof)
