FakeYou, come funziona l’app che replica la voce di personaggi noti

FakeYou, l’app che fa parlare gli utenti come se fossero il presidente Giorgia Meloni, il leader forzista Silvio Berlusconi o l’ex capitano della Roma Francesco Totti. Come funziona questa piattaforma di deepfake e quali sono i concreti pericoli: l’istruttoria aperta dal Garante della privacy e il fenomeno crescente delle fake news in Italia e in Europa

Chi è solito frequentare i social network, in particolare TikTok e Twitter, si sarà accorto che negli ultimi mesi stanno circolando molti contenuti che vedono personaggi del mondo dello spettacolo e della politica dire delle frasi surreali. Il merito, se così si può definire, è della piattaforma FakeYou, la quale consente agli utenti di generare degli audio nei quali viene replicata la voce di personaggi famosi. Per la versione italiana, ad esempio, era possibile fino a qualche tempo fa far dire delle cose bizzarre al Presidente del Consiglio Giorgia Meloni, così come al leader di Forza Italia Silvio Berlusconi o al conduttore televisivo Gerry Scotti. Inutile dire che la diffusione di questi audio con voce finta dei personaggi citati, ma molto simile all’originale, presta il fianco a chi fa satira politica ma anche a chi abbia l’intenzione di diffondere delle fake news. Non a caso il garante della Privacy ha di recente aperto un’istruttoria sulla app.

Che cos’è FakeYou

FakeYou è una app realizzata dalla società The Storyteller e sviluppata da un team di lavoro statunitense con a capo Brandon Thomas. Il dominio del sito FakeYou è attivo dal 2002, è stato aggiornato nel 2021 ed è arrivato ai primi posti delle ricerche online (analisi Google Trend) nella primavera del 2022. La sua crescita esponenziale nell’ultimo anno è dovuta principalmente alla viralità che hanno avuto alcuni contenuti pubblicati su TikTok e Twitter che vedevano i personaggi famosi e politici parlare in maniera improbabile. Per citare qualche esempio, è girato molto il video di un finto Silvio Berlusconi, storico tifoso e presidente milanista, che diceva di essere segretamente un tifoso interista. E ancora, quello in cui Gerry Scotti, personaggio rassicurante della televisione italiana, che pronunciava frasi altamente scorrette e volgari. La grande capacità di FakeYou di generare audio credibili, aveva portato alla creazione di piccoli casi mediatici, per fortuna subito smentiti dai diretti interessati.

Non si è trattato, tra l’altro, di una novità per l’Italia, visto e considerato che già nel 2019, il programma televisivo Striscia la Notizia aveva mandato in onda un servizio nel quale si vedeva un fuori onda dell’ex Presidente del Consiglio Matteo Renzi che mandava a quel paese molte personalità di spicco della politica italiana. Era il classico esempio di deepfake, ovvero di un video realizzato servendosi di voci e immagini sapientemente manipolate dagli autori. Questo può portare di sicuro alla realizzazione di contenuti audio/video molto divertenti, che però possono includere al loro interno il serio pericolo di diffondere delle informazioni false e incrementare il già tristemente diffuso fenomeno delle fake news.

Come funziona l’app FakeYou

Da un punto di vista strettamente tecnico, FakeYou è una app “Text to Speech”, ovvero un piattaforma in grado di riprodurre in suono un testo scritto. La sua caratteristica principale, che la differenzia ad esempio da altre applicazioni di questo tipo come può essere Google Traduttore, è che nel caso di FakeYou il suono emesso richiama fortemente il timbro di voce di personaggi noti al grande pubblico. Il risultato è, nel più dei casi, molto simile all’originale, andando a creare i già problemi relativi alla privacy dei soggetti imitati e alla diffusione di notizie false.

Realizzare audio fake con questa app è davvero un gioco da ragazzi, basta infatti selezionare una voce dall’archivio messo a disposizione dell’utente e digitare il testo che si vuole far pronunciare al personaggio famoso. Attualmente il campionario di FakeYou italiano è piuttosto limitato: oltre ai già citati Silvio Berlusconi, Gerry Scotti e Giorgia Meloni è possibile “far parlare” in maniera improbabile anche Matteo Salvini, Wanna Marchi, Giuseppe Conte e Francesco Totti.

La app, tuttavia, mira ad implementare il proprio campionario offrendo la possibilità di inserire altre voci. Pagando infatti una cifra pari a 70 dollari, gli utenti possono campionare una voce, compresa la propria, ed inserirla nel bouquet offerto da FakeYou. Ma non è tutto, sulla home page del sito dell’azienda sviluppatrice dell’app si legge infatti che la società è disposta a corrispondere del denaro a chi contribuirà ad aumentare il campionario di voci. “Ti pagheremo per aiutarci a costruire voci – si legge sul sito – Non abbiamo ancora abbastanza voci in questa lingua. Aiutaci a costruire i tuoi personaggi preferiti. Unisciti al nostro Discord e ti insegneremo come. Ti pagheremo anche $150 USD a voce!”

FakeYou, l’intervento del Garante per la privacy

Come già più volte ripetuto, l’utilizzo FakeYou può facilmente andare oltre il semplice divertimento degli utenti. Un’audio finto confezionato a dovere può infatti innescare un complesso meccanismo di disinformazione, oltre che di diffamazione del personaggio noto inconsapevolmente e incolpevolmente coinvolto. È il cosiddetto deepfake, definito dal Garante della Privacy sul proprio sito come “foto, video e audio creati grazie a software di intelligenza artificiale (AI) che, partendo da contenuti reali (immagini e audio), riescono a modificare o ricreare, in modo estremamente realistico, le caratteristiche e i movimenti di un volto o di un corpo e a imitare fedelmente una determinata voce”. Si tratta, aggiunge il Garante, di “una forma particolarmente grave di furto di identità” in quanto i personaggi presenti nel campionario di voci della app non hanno più il controllo sulla loro immagine e perdono pure quello sulle loro idee.

In una nota il Garante ha esposto tutte le proprie preoccupazioni “verso i potenziali rischi che potrebbero determinarsi da un uso improprio di un dato personale, quale è appunto la voce”, motivo per il quale ha chiesto alla società The Storyteller Company – FakeYou “di trasmettere con urgenza ogni possibile elemento utile a chiarire l’iniziativa”.“La società – continua la nota del Garante – dovrà, tra l’altro, fornire le modalità di ’costruzione’ della voce dei personaggi famosi, il tipo di dati personali trattati, nonché le finalità del trattamento dei dati riferiti ai personaggi noti e agli utenti che utilizzano l’app” e “indicare l’ubicazione dei data center che archiviano i dati personali, sia con riferimento agli utenti registrati dall’Italia, sia ai personaggi noti, e le misure tecniche ed organizzative adottate per garantire un livello di sicurezza adeguato al rischio”.

II fenomeno dell fake news in Italia e in Europa: i dati

Le fake news rappresentano senza dubbio un dei grandi mali del nostro tempo e, a conferma, c’è quanto avvenuto negli anni scorsi con la pandemia da coronavirus quando è stato quanto mai evidente la potenza che la disinformazione può avere sulle persone. Ma qual è la portata di questo fenomeno?

Secondo quanto riportata da Guido Scorza, componente del Garante per la protezione dei dati personali, in un suo intervento all’Huffpost del 20 ottobre 2022, i falsificatori di notizie sarebbeo in un vero e proprio periodo d’oro. A sostegno di quanto detto Scorza ha riportato i dati di un’indagine Eurobarometro precedente all’inizio della pandemia. Secondo questa ricerca, il 71% dei cittadini europei e il 63% di quelli italiani si imbatte in una notizia fuorviante o falsa almeno una volta al mese, mentre il 27% di loro tra gli europei e il 17% tra gli italiani trova fake news almeno una volta al giorno.

Tale fenomeno avrebbe subito una brusca impennata nel corso della pandemia, quando, secondo un rapporto pubblicato dal Censis nel 2021, la più diffusa fake news circolata in Italia sarebbe stata quella secondo la quale il covid sarebbe stato creato in maniera artificiale in un laboratorio e fatto sfuggire in maniera volontaria. A pensarla in questo modo sarebbe:

• il 38,6% degli italiani adulti, con quote che raggiungono il 49,2% tra chi ha al massimo la licenza media;
• il 46,8% tra gli adulti di età compresa tra i 35 e i 64 anni;
• il 52,9% tra i lavoratori dipendenti che hanno mansioni esecutive;
• il 51,3% tra chi ha un reddito che non supera i 15.000 euro l’anno.

Appare evidente dall’esempio riportato come le fake news rappresentino un fenomeno in grande crescita in Italia ed in Europa, così come anche troppo poco si sia fatto e si faccia per poterlo contrastare. In tale ottica il Garante delle privacy ha aperto una discussione con l’azienda di FakeYou e con le altre che agevolano il fenomeno del deepfake, in quanto potrebbero rappresentare il volano non richiesto ed incontrollato dell’ulteriore rafforzamento della disinformazione.