Softver za kloniranje glasova nije samo alat kojem raste popularnost u Hollywoodu, već je ta tehnologija i sve omiljena među cyber kriminalcima.
Takvo računalno generirani zvuk zastrašujuće je točan. Softver tako reproducira naglasak ton glasa, tempo govora i disanje Klonirani glas može i prikazati i emocije kao što su ljutnja, strah, sreća, zaljubljenost ili dosada.
Tehnologija se može koristiti za prevođenje riječi na različite jezike, što bi moglo značiti da američke filmske produkcijske kuće više neće morati angažirati dodatne glumce za snimanje sinkroniziranih verzija svojih filmova. Kako će se to odraziti na honorare od kojih dobro žive glumci na manjim tržištima, izvan engleskog govornog područja, kao što je i hrvatsko, još nije analizirano.
Iz kanadske tvrtka Resemble AI tvrde kako već mogu engleske glasove klonirati na 15 drugih jezika. Njegov izvršni direktor Zohaib Ahmed kaže kako je softveru za stvaranje kvalitetne kopije nečijeg glasa, dovoljno samo deset minuta snimke nečijeg glasa.
Ipak, iako sve veća sofisticiranost ovog softvera ima očigledan komercijalni potencijal, također dovodi do zabrinutosti kako bi ju mogli zloupotrijebiti cyber kriminalci.
U simbiozi s računalno generiranim lažnim videozapisima, kloniranje glasa tvori ono što nazivamo,"deepfake". Stručnjak za cyber sigurnost Eddy Bobritsky kaže da postoji "veliki sigurnosni rizik" koji dolazi sa sintetičkim glasovima.
"Na primjer, ako šef telefonira zaposleniku tražeći povjerljive podatke, a zaposlenik prepozna glas, on će bez razmišljanja učiniti ono što je zatraženo. To je put kojim će krenuti mnogi prevaranti- vjeruje Bobrtisky. Takav slučaj zabilježen je 2019. kada je britanski menadžer nasamaren ovom tehnologijom. On je, naime, povjerovao kako klonirani glas pripada njegovom njemačkom šefu, te tako kriminalcima na račun uplatio 220 tisuća eura.
Pojava nove generacije digitalno manipuliranih medija, također poznatih kao deepfake - izazvala je značajnu zabrinutost zbog moguće zlouporabe. Kao odgovor na ove probleme, Europski parlament od stručnjaka je naručio studiju u kojima se procjenjuju tehnički, društveni i regulatorni aspekti deepfakea.
