I dipendenti Amazon ci ascoltano tramite Alexa

L’altro lato della medaglia di una casa sempre più interconnessa con il mondo tramite il web, è il rischio di venire costantemente spiati. Sospetto che si allarga dopo l’inchiesta di Bloomberg, secondo cui Alexa, l’assistente domestico elettronico, registra quello che avviene in casa,  dopo che il cliente ha detto la parola di attivazione e lo fa sentire (almeno in qualche caso) a dipendenti Amazon. Bloomberg scrive: “Amazon impiega migliaia di persone in tutto il mondo per aiutare a migliorare l’assistente digitale Alexa che alimenta la sua linea di altoparlanti Echo. Il team ascolta le registrazioni vocali catturate nelle case e negli uffici dei proprietari di Echo. Le registrazioni vengono trascritte, annotate e quindi reinserite nel software come parte di uno sforzo per eliminare le lacune nella comprensione di Alexa del linguaggio umano e aiutarlo a rispondere meglio ai comandi”.

In Europa, gruppi di ascolto in Romania

Il processo di revisione vocale di Alexa, descritto da sette persone che hanno lavorato al programma, evidenzia il ruolo umano spesso trascurato nella formazione degli algoritmi software. Il team comprende un gruppo di appaltatori e impiegati a tempo pieno di Amazon che lavorano in avamposti da Boston a Costa Rica, India e Romania, e hanno firmato accordi di non divulgazione impedendo loro di parlare pubblicamente del programma. “Lavorano nove ore al giorno – scrivono i giornalisti di Bloomberg – con ogni recensore che analizza fino a mille clip audio per turno, secondo due lavoratori dell’ufficio Amazon di Bucarest, che occupa gli ultimi tre piani dell’edificio Globalworth nella nuova capitale rumena, nel distretto di Pipera. La moderna struttura spicca tra le infrastrutture fatiscenti e non reca alcun segno esteriore che faccia pubblicità alla presenza di Amazon”.

Chat per scambiare audio “dubbi”

I team utilizzano chat room interne per condividere file quando hanno bisogno di aiuto per analizzare una parola confusa e capire se è una richiesta o una conversazione privata, o per condividere una registrazione divertente. A volte ascoltano registrazioni che trovano sconvolgenti o forse criminali. Due dei lavoratori hanno detto di aver raccolto quello che credevano fosse un’aggressione sessuale. Quando succede qualcosa del genere, possono condividere l’esperienza nella chat room interna come un modo per alleviare lo stress. Amazon afferma di avere a disposizione procedure per i lavoratori quando sentono qualcosa di angosciante, ma due dipendenti con sede in Romania hanno affermato che, dopo aver richiesto una guida per tali casi, gli è stato detto che non era compito di Amazon interferire.

Amazon: “Chi ascolta non ha accesso ai dati personali”

Un portavoce di Amazon ha risposto a Bloomberg via mail: “Amazon prende sul serio privacy e sicurezza delle informazioni personali dei clienti. Annotiamo solo un numero estremamente minimo di interazioni da un gruppo di clienti selezionati in modo casuale, al fine di migliorare l’esperienza del cliente. Queste informazioni ci aiutano, ad esempio, ad addestrare i nostri sistemi di riconoscimento vocale e di comprensione del linguaggio naturale, in modo che Alexa possa capire meglio le richieste dei clienti e assicurare che il servizio funzioni bene per tutti. Abbiamo sistemi di sicurezza rigorosi a livello tecnico e operativo, e tolleranza zero per gli abusi dei nostri sistemi. I dipendenti non hanno accesso diretto alle informazioni che permettono di identificare la persona o l’account le cui interazioni sono coinvolte in questa attività. Tutte le informazioni sono trattate con la massima riservatezza e, per proteggerle, usiamo sistemi di autenticazione a più livelli per limitare l’accesso, servizi di crittografia e audit sul nostro sistema di controllo; al tempo stesso, i clienti possono sempre cancellare le proprie interazioni in qualsiasi momento”.

L’ambiguità dell’azienda

Amazon, nei materiali di marketing e privacy policy, non dice esplicitamente che gli umani stanno ascoltando le registrazioni di alcune conversazioni raccolte da Alexa. “Utilizziamo le tue richieste ad Alexa per addestrare i nostri sistemi di riconoscimento vocale e di comprensione del linguaggio naturale”, afferma l’azienda in un elenco di domande frequenti.

Cosa può fare il consumatore per difendersi

Nelle impostazioni sulla privacy di Alexa, Amazon offre agli utenti la possibilità di disabilitare l’uso delle loro registrazioni vocali per lo sviluppo di nuove funzionalità. La società afferma che le persone che scelgono di rinunciare a quel programma potrebbero comunque analizzare le loro registrazioni manualmente nel corso regolare del processo di revisione. Uno screenshot esaminato da Bloomberg mostra che le registrazioni inviate ai revisori Alexa non forniscono il nome e l’indirizzo completi di un utente, ma sono associate a un numero di account, oltre al nome utente e al numero di serie del dispositivo.

Cosa succede invece con Siri e Google?

L’analogo Siri di Apple ha anche aiutanti umani, che lavorano per valutare se l’interpretazione delle richieste da parte dell’assistente digitale si allinea con ciò che la persona ha detto. Le registrazioni che esaminano mancano di informazioni di identificazione personale e sono archiviate per sei mesi legate a un identificatore casuale, secondo un white paper sulla sicurezza di Apple. Successivamente, i dati vengono privati delle informazioni di identificazione casuale, ma possono essere archiviati per periodi più lunghi per migliorare il riconoscimento vocale di Siri. In Google, invece, alcuni revisori possono accedere ad alcuni audio dal suo Assistente per aiutare a profilare e migliorare il prodotto, ma non sono associati ad alcuna informazione di identificazione personale e l’audio è “distorto”, dice la società.