Apple affida a società esterne il giudizio sul corretto funzionamento di Siri. Viene per esempio valutato se le risposte date all’utente sono in linea con quanto richiesto. Il programma di verifica viene svolto su scala globale analizzando le registrazioni delle interazioni vocali degli utenti con l’assistente. In seguito viene fornito ad Apple un punteggio sull’efficacia del sistema vocale e sulla pertinenza delle risposte offerte, segnalando anche se Siri si attiva senza che siano stati dati dei comandi vocali o se i comandi vengono interpretati in modo errato.

Tuttavia, secondo un articolo del Guardian, gli addetti delle società esterne assunte da Apple si sono ritrovati ad ascoltare informazioni e conversazioni personali. Questo, hanno svelato alcuni contractor con sede in Irlanda, accade perché Siri in alcuni casi si attiva per errore. Il dispositivo più a rischio sarebbe l’Apple Watch, ma anche con altri device Siri può inavvertitamente accendersi e registrare la conversazione durante interazioni private come una visita medica per esempio. L'associazione britannica Big Brother Watch ha accusato che “Troppo spesso i cosiddetti assistenti smart sono solo delle spie”, . La preoccupazione non è solo il malfunzionamento tecnico ma la possibilità di raccogliere e conservare i dati sensibili senza il consenso dell'utente. “Apple sta scivolando sulla protezione dei dati personali”, si è pronunciato il gruppo in difesa della privacy. “Il sistema iOs attualmente non permette l’opt out dei clienti dal riconoscimento facciale sulle foto e questa rivelazione su Siri significa che gli iPhone ci ascoltano senza che ce ne rendiamo conto”.

 

Tuttavia, secondo  un articolo del Guardian, gli addetti delle società esterne assunte da Apple si sono ritrovati ad ascoltare informazioni e conversazioni personali. Questo, hanno svelato alcuni contractor con sede in Irlanda, accade perché Siri in alcuni casi si attiva per errore. Il dispositivo più a rischio sarebbe l’Apple Watch, ma anche con altri device Siri può inavvertitamente accendersi e registrare la conversazione durante interazioni private come una visita medica per esempio. 

L'associazione britannica Big Brother Watch ha accusato che “Troppo spesso i cosiddetti assistenti smart sono solo delle spie”, . La preoccupazione non è solo il malfunzionamento tecnico ma la possibilità di raccogliere e conservare i dati sensibili senza il consenso dell'utente. “Apple sta scivolando sulla protezione dei dati personali”, si è pronunciato il gruppo in difesa della privacy. “Il sistema iOs attualmente non permette l’opt out dei clienti dal riconoscimento facciale sulle foto e questa rivelazione su Siri significa che gli iPhone ci ascoltano senza che ce ne rendiamo conto”.

Nei suoi documenti sulla privacy, Apple afferma che i dati Siri "non sono collegati ad altri dati che Apple potrebbe avere dall'uso di altri servizi Apple". Non esiste quindi un nome o identificativo specifico allegato a una registrazione e nessuna registrazione individuale può essere facilmente collegata ad altre registrazioni. Ma l'informatore resta perplesso e dice ancora al Guardian: "Non c'è molto controllo su chi lavora lì e la quantità di dati che siamo liberi di esaminare sembra piuttosto ampia. Non sarebbe difficile identificare la persona che stai ascoltando, soprattutto con trigger accidentali: indirizzi, nomi e così via". 

Il colosso Apple ha annunciato la sospensione del programma per comprendere se ci sia violazione della privacy degli utenti Apple. Inoltre, è previsto un aggiornamento software per permette ai clienti di non partecipare (opt out) al controllo della qualità del servizio.   Anche Amazon e Google, secondo Bloomberg, assumono società esterne per verificare il funzionamento dei loro assistenti vocali (Alexa e Assistant) e anche in questi casi i contractor hanno rivelato di essersi ritrovati ad ascoltare conversazioni molto private. Su Google in particolare la tv belga VRT ha realizzato un servizio che ha incluso i file audio catturati da Assistant (in parte accidentalmente), spingendo Big G, come accaduto ad Apple, ad annunciare la sospensione del programma qualità nell'Unione Europea.