COSA POTRÀ MAI SUCCEDERE SE SI CREA UNA TECNOLOGIA CHE REPLICA FEDELMENTE LA VOCE DI CHIUNQUE? CHE EMMA WATSON FINISCE PER RECITARE IL MEIN KAMPF. IN REALTÀ LA POVERA ATTRICE È STATA UNA DELLE VITTIME DELL’USO DEGENERATIVO CHE SI FA DI "EVENLABS", UN SOFTWARE CAPACE DI REPLICARE LA VOCE DI CHIUNQUE ASCOLTANDO POCHI SECONDI DI AUDIO CAMPIONE – PER USARE IL SERVIZIO BASTA ISCRIVERSI E INIZIARE A GENERARE FOLLI DEEPFAKE CHE …

Estratto dell'articolo da www.fanpage.it

intelligenza artificiale riproduce voci 9

Ma cosa mai potrà succedere se si butta in pasto al pubblico una nuova tecnologia che replica fedelmente le voci di chiunque? Quello che capita ogni volta: la parte più oscura del web genera tutte le brutture possibili. E così Emma Watson recita il Mein Kampf.

A gennaio EvenLabs, un’azienda del Regno Unito fondata da ex membri dello staff di Google e Palantir, ha pubblicizzato per la prima volta la sua Prime Voice Ai, un software open beta text-to-voice capace di replicare la voce di chiunque ascoltando pochi secondi di campioni audio.

intelligenza artificiale riproduce voci 2

Gli utenti possono iscriversi rapidamente al servizio e iniziare a generare voci. L'azienda offre anche la "clonazione professionale", in grado riprodurre qualsiasi accento, tono, e cadenza. Sono bastate poche settimane, poi gli utenti hanno cominciato a segnalare un fenomeno in realtà già visto, il deepfake. In poche parole sono state usate le voci di personaggi famosi per trasmettere messaggi razzisti e violenti.

intelligenza artificiale riproduce voci 5

I deepfake vocali

Pochi giorni fa, su 4Chan, un utente ha pubblicato una clip di Emma Watson che legge un passaggio di Mein Kampf. Poi la voce di Ben Shapiro che lancia commenti razzisti su Alexandria Ocasio-Cortez, e Rick Sanchez della serie animata Rick & Morty che dice: “Picchierò mia moglie Morty.

intelligenza artificiale riproduce voci 4

Picchierò la mia fottuta moglie Morty. La picchierò a morte, Morty". Justin Roiland, che dà la voce a Sanchez, è comparso di recente in tribunale per un'udienza preliminare con l'accusa di reato di violenza domestica. Le clip spaziano dall'innocuo, al violento, al transfobico, all'omofobo, al razzista, dentro il frullatore fake sono finiti anche personaggi anime e di videogiochi.

[…]

intelligenza artificiale riproduce voci 1intelligenza artificiale riproduce voci 3intelligenza artificiale riproduce voci 8intelligenza artificiale riproduce voci 7intelligenza artificiale riproduce voci 6