Alexa, dove sono i limiti legali su cosa può fare Amazon con i miei dati sanitari?
Il contratto tra il servizio sanitario nazionale del Regno Unito(NHS) e il gigante dell’e-commerce Amazon per una partnership di licenza di informazioni sanitarie che coinvolge la voce di Alexa AI è stato rilasciato a seguito di una richiesta di libertà di informazione.
Il governo ha annunciato la partnership questa estate. Ma la data del contratto, che è stata pubblicata sul sito di ricerca dei contratti gov.uk alcuni mesi dopo il deposito della FOI, mostra l’accordo aperto per incanalare i consigli sulla salute stretti e nascosti dal sito Web del NHS agli utenti Alexa in audio, il contratto è stato firmato nel dicembre 2018.
Il contratto è stato stipulato tra il governo del Regno Unito e Amazon US ( Amazon Digital Services, Delaware), anziché Amazon UK.
Né è un contratto standard di sindacazione dei contenuti di NHS Choices. Un portavoce del Dipartimento della sanità e dell’assistenza sociale (DHSC) ha confermato che l’accordo legale utilizza un modello di contratto Amazon. Ci ha detto che il dipartimento ha collaborato con Amazon per adattare il modello all’uso previsto, vale a dire l’accesso alle informazioni sanitarie finanziate con fondi pubblici.
Il SSN rende ovviamente disponibili le stesse informazioni liberamente sul suo sito Web. Oltre che tramite API, a circa 1.500 organizzazioni. Ma Amazon non è solo una qualsiasi organizzazione è un potente gigante della piattaforma statunitense con un enorme business di e-commerce.
Il contratto riflette tale squilibrio di potere non essendo un accordo di sindacazione dei contenuti NHS standard, ma piuttosto DHSC che modifica i termini standard di Amazon.
“È stato elaborato tra Amazon UK e il Dipartimento per la salute e l’assistenza sociale”, ha detto una portavoce del dipartimento. “Dato che Amazon è impegnata a stipulare accordi standard con i fornitori di contenuti, ha fornito il modello che è stato utilizzato come punto di partenza per le discussioni, ma è stato redatto in negoziazione con il Dipartimento per la salute e l’assistenza sociale e ovviamente è stato modificato applicare alla legge britannica piuttosto che la legge statunitense “.
A luglio , quando il governo ha annunciato ufficialmente la partnership con Alexa-NHS, il suo PR ha fornito alcune domande di esempio su come l’IA vocale di Amazon potrebbe rispondere a ciò che ha soprannominato informazioni “verificate da NHS” del tipo: “Alexa, come posso trattare un emicrania?”; “Alexa, quali sono i sintomi dell’influenza?”; “Alexa, quali sono i sintomi della varicella?”.
Ma, naturalmente, come chiunque ha cercato su Google un sintomo di salute, i tipi di cose che le persone possono effettivamente chiedere ad Alexa, una volta che si renderanno conto che possono trattarlo come un robot di distribuzione di informazioni verificato dal NHS e ridurre il sintomo è probabile che vada molto al di là del comune raffreddore.
Al lancio ufficiale di quella che il governo ha definito una “collaborazione” con Amazon, hanno spiegato che la decisione di consentire che il contenuto del servizio sanitario nazionale venga trasmesso liberamente attraverso Alexa, tramite la tecnologia vocale ha “il potenziale per ridurre la pressione sul servizio sanitario nazionale e sui medici di base”.
Il suo PR ha citato un’affermazione non attribuita secondo cui “entro il 2020, si prevede che metà delle ricerche saranno effettuate attraverso la tecnologia vocale”.
Questa previsione è spesso attribuita a ComScore, una società di misurazione dei media che il mese scorso è stata accusata di frode dalla SEC . Tuttavia sembra effettivamente provenire dallo scienziato informatico Andrew Ng, da quando era capo scienziato del colosso della tecnologia cinese Baidu.
Econsultancy ha notato l’anno scorso che Mary Meeker ha incluso la richiesta di Ng su una diapositiva nel suo rapporto sulle tendenze di Internet del 2016 che è probabilmente il modo in cui la previsione è stata così ampiamente amplificata.
“Vogliamo consentire a ogni paziente di assumere un migliore controllo della propria assistenza sanitaria e la tecnologia come questa è un ottimo esempio di come le persone possano accedere a consigli NHS affidabili e leader del mondo comodamente da casa, riducendo la pressione sui nostri medici e farmacisti che lavorano duramente “, Ha detto il segretario alla salute Matt Hancock in una dichiarazione di luglio.
Dall’atterraggio presso il dipartimento della salute, l’ ex ministro digitale amante delle app ha promosso un primo programma tecnologico per la trasformazione del SSN, promettendo di collegare app e servizi “healthtech” e promuovendo “cure preventive, predittive e personalizzate”. Ha anche annunciato un laboratorio di intelligenza artificiale ospitato all’interno di una nuova unità destinata a sovrintendere alla digitalizzazione del SSN.
Rispetto a tutto ciò, collegare il sito Web del SSN ad Alexa probabilmente sembra una facile vittoria “on-message”. Sono state sollevate preoccupazioni sul fatto che il governo stia mescolando incautamente i flussi di infrastrutture sanitarie nazionali critiche (e sensibili) con il rapace appetito di dati di un gigante della tecnologia straniera con un’attività sia di pubblicità che di e-commerce, oltre a grandi ambizioni proprio nello spazio sanitario.
Su quest’ultimo fronte, proprio ieri è arrivata la notizia della seconda acquisizione di Amazon relativa alla salute : Health Navigator, una startup con una piattaforma API per l’integrazione con i servizi sanitari, come la telemedicina e i call center medici, che offre strumenti di elaborazione del linguaggio naturale per documentare i disturbi della salute e consigli per la cura.
L’anno scorso Amazon ha anche raccolto il PillPack della farmacia online per poco meno di $ 1BN. Mentre il mese scorso ha lanciato un progetto pilota di offerta di servizi sanitari ai propri dipendenti a Seattle e dintorni, chiamato Amazon Care. Sembra destinato a essere un test per affrontare il più vasto mercato americano. Quindi i progetti commerciali dell’azienda in materia di assistenza sanitaria stanno diventando sempre più chiari.
Ritornando nel Regno Unito, in risposta ai primi feedback critici sull’accordo Alexa-NHS, il braccio di consegna IT del servizio, NHS Digital , ha pubblicato un post sul blog che approfondisce l’accordo, a seguito di quello che appariva come “discussione interessante su le sfide per il SSN di lavorare con grandi organizzazioni commerciali come Amazon ”.
Un punto cruciale della ” discussione ” è la domanda su cosa farà Amazon con i dati delle query vocali mediche delle persone, dato che la partnership incoraggia chiaramente le persone ad abituarsi a chiedere ad Alexa consigli sulla salute.
“Abbiamo aderito al principio fondamentale di non concordare un modo di lavorare con Amazon che non saremmo disposti a prendere in considerazione con un singolo partner, grande o piccolo. Siamo stati attenti ai dati, alla commercializzazione, alla privacy e alla responsabilità e abbiamo trascorso mesi a lavorare con colleghi esperti per farlo bene “, ha affermato NHS Digital a luglio.
In un’altra sezione del post del blog, rispondendo alle domande su cosa farà Amazon con i dati e “sulla privacy”, ha inoltre affermato che non ci sarebbe alcuna profilazione sanitaria dei clienti- scrivendo:
Abbiamo lavorato con il team di Amazon per assicurarci di essere totalmente sicuri che Amazon non condivida queste informazioni con terze parti. Amazon è stato molto chiaro che non sta vendendo prodotti o formulando raccomandazioni sui prodotti basate su queste informazioni sulla salute, né sta costruendo un profilo di salute sui clienti. Tutte le informazioni sono trattate con la massima riservatezza. Amazon limita l’accesso tramite l’autenticazione a più fattori, i servizi sono tutti crittografati e controlli regolari vengono eseguiti nel loro ambiente di controllo per proteggerlo.
Eppure risulta che il contratto firmato DHSC con Amazon è solo un accordo di licenza di contenuto. Non ci sono termini in esso relativi a ciò che può o non può essere fatto con i dati di interrogazione vocale medica raccolti da Alexa con l’aiuto di informazioni “verificate dal SSN”.
Secondo i termini del contratto, Amazon è tenuta ad attribuire contenuti al servizio sanitario nazionale quando Alexa risponde a una query con informazioni dal sito Web del servizio. (Anche se la società afferma che Alexa si avvale anche dei contenuti medici della Mayo Clinic e di Wikipedia.) Quindi, dal punto di vista dell’utente, a volte si sentiranno come se stessero parlando con un servizio a marchio NHS.
Ma senza alcuna clausola di riservatezza giuridicamente vincolante su ciò che può essere fatto con le loro domande vocali mediche non è chiaro come NHS Digital possa affermare con sicurezza che Amazon non stia creando profili di salute.
La situazione sembra riassumere una fiducia in Amazon. (NHS Digital non commenterebbe; dicendo che è responsabile solo della consegna, non delle impostazioni della politica, e che ci rimanda al DHSC.)
Alla domanda su cosa fa con i dati sulle query vocali mediche generati a seguito della collaborazione del SSN, un portavoce di Amazon ha detto: “Non costruiamo profili di salute dei clienti sulla base di interazioni con i contenuti di nhs.uk né utilizziamo tali richieste per scopi di marketing”.
Ma il portavoce non poteva indicare alcuna clausola contrattuale legalmente vincolante nell’accordo di licenza che limiti ciò che Amazon può fare con le domande mediche delle persone.iti.
“Questa collaborazione fornisce solo contenuti già disponibili sul sito Web NHS.UK e assolutamente nessun dato personale viene condiviso da NHS su Amazon o viceversa”, ha anche detto Amazon, eludendo il punto chiave che non sono i dati NHS condivisi con Amazon ma gli utenti del SSN, rassicurati dalla presenza di un marchio pubblico di fiducia, che vengono incoraggiati a nutrire i dati personali sensibili di Alexa chiedendo informazioni sui loro disturbi e problemi di salute.
Stranamente, il Dipartimento della sanità e dell’assistenza sociale è andato oltre. Il suo portavoce ha affermato in una e-mail che “non ci saranno dati condivisi, raccolti o elaborati da Amazon e questo è solo un modo alternativo per fornire informazioni prontamente disponibili da NHS.UK “.
Tutto ciò suggerisce che il governo abbia un’idea molto vaga (per dirla generosamente) di come funzionano gli IA vocali basati su cloud.
Presumibilmente nessuno al DHSC si è preso la briga di leggere le informazioni sulla pagina della privacy di Alexa su Amazon sebbene i portavoce del dipartimento fossero almeno consapevoli che questa pagina esistesse (perché sapeva che Amazon ci aveva indicato quello che lei chiamava il suo “avviso sulla privacy”, che ” stabilisce in che modo i clienti hanno il controllo dei propri dati ed espressioni ”).
Se leggi la pagina troverai Amazon che ti offre una spiegazione a tutto campo che ti dice che dopo che un dispositivo Alexa è stato svegliato dalla sua parola di sveglia, l’IA “inizierà a registrare e inviare la tua richiesta al cloud sicuro di Amazon”.
I dati di Ergo vengono raccolti ed elaborati. E infatti archiviato sui server di Amazon. Quindi, sì, i dati sono “condivisi”.
La più dettagliata Informativa sulla privacy di Alexa Internet , nel frattempo, stabilisce parametri generali per consentire il riutilizzo dei dati utente di Alexa da parte di Amazon, affermando che “le informazioni che apprendiamo dagli utenti ci aiutano a personalizzare e migliorare continuamente la tua esperienza Alexa e fornire informazioni sulle tendenze di Internet, popolarità e traffico del sito Web e contenuti correlati ”.
Il DHSC vede la questione in modo molto diverso, però.
Senza vincoli contrattuali riguardanti le domande relative alla salute gli utenti britannici di Alexa sono incoraggiati a sussurrare nelle orecchie robot di Amazon i dati che sono naturalmente collegati agli ID account Alexa e Amazon (e che specifica anche l’Informativa sulla privacy di Alexa Internet sono accessibili tramite “un limitato numero di dipendenti “) – il governo sta accettando i termini standard di elaborazione dei dati del gigante tecnologico per un prodotto commerciale e di consumo che è profondamente integrato nel suo impero commerciale sempre più vasto.
Termini come la conservazione indefinita delle registrazioni audio, a meno che gli utenti non richiedano in modo proattivo che vengano eliminate. E anche allora Amazon ha ammesso quest’estate che non cancella sempre le trascrizioni testuali delle registrazioni. Quindi, anche se continui a eliminare tutti i tuoi frammenti audio, tracce di query mediche potrebbero rimanere sui server di Amazon.
All’inizio di quest’anno è emerso inoltre che la società impiega appaltatori di tutto il mondo per ascoltare le registrazioni di Alexa come parte degli sforzi interni per migliorare le prestazioni dell’IA.
Un certo numero di giganti della tecnologia ha recentemente ammesso la presenza di tali programmi di “classificazione del discorso”, anche se nessuno era stato chiaro e trasparente sul fatto che le loro brillanti IA avevano bisogno di un esercito di intercettatori umani esterni per realizzare un spettacolo di finta intelligenza.
Sono stati i giornalisti a evidenziare i rischi per la privacy degli utenti degli assistenti di intelligenza artificiale e l’esposizione dei media che porta alla pressione pubblica sui giganti della tecnologia per forzare le modifiche ai processi interni nascosti che, per impostazione predefinita, hanno trattato le informazioni delle persone come un bene di proprietà per i propri interessi aziendali.
Quindi, in altre parole, gli esseri umani reali entrambi impiegati direttamente da Amazon e non potrebbero ascoltare le cose mediche che stai dicendo ad Alexa. A meno che l’utente non trovi e attivi un’opzione “nessuna recensione umana” aggiunta di recente sepolta nelle impostazioni di Alexa.
Molti di questi accordi restano sotto controllo regolamentare in Europa. Il principale regolatore di protezione dei dati di Amazon in Europa ha confermato ad agosto che è in discussione una preoccupazioni relative alle revisioni manuali delle registrazioni di Alexa. Quindi i cittadini del Regno Unito,, le cui tasse finanziano il SSN, potrebbero essere perdonati per essersi aspettati più cure dal proprio governo riguardo a tale “collaborazione”.
Piuttosto che inghiottire all’ingrosso i giganteschi T&C tecnologici in cambio di libero accesso al marchio NHS e informazioni “verificate dal NHS” che aiutano Amazon a bruciare l’utilità e la credibilità di Alexa, permettendole di raccogliere preziose informazioni per le sue ambizioni commerciali in ambito sanitario.
Fino ad oggi non è stato riconosciuto dal DHSC che il governo ha un dovere di diligenza nei confronti degli utenti del SSN per quanto riguarda i rischi potenziali della sua partnership di contenuti mentre Alexa raccoglie le loro domande vocali attraverso un condotto commerciale che offre agli utenti solo controlli molto parziali su ciò che accade al loro dati personali.
Né il DHSC sta considerando il valore generosamente donato dallo stato ad Amazon in cambio di una vaga supposizione che alcuni cittadini potrebbero andare dal medico un po meno se un robot dice loro quali sono i sintomi dell’influenza.
“Il logo NHS dovrebbe significare qualcosa”, afferma Sam Smith, coordinatore del gruppo di tutela della privacy dei dati dei pazienti, MedConfidential, una delle organizzazioni che si avvale delle API gratuite del SSN per i contenuti sanitari (ma che sottolinea non ha scritto un proprio contratto per la firma del governo).
In uno sviluppo correlato questa settimana , il supervisore europeo per la protezione dei dati ha avvertito di serie preoccupazioni in materia di protezione dei dati relative ai contratti standard che le istituzioni dell’UE hanno firmato con un altro gigante della tecnologia, Microsoft, per utilizzare i suoi software e servizi.
Il supervisore ha recentemente creato un forum strategico che ha lo scopo di riunire le pubbliche amministrazioni della regione per lavorare all’elaborazione di contratti standard con condizioni più eque per il settore pubblico per ridurre il rischio che le istituzioni si sentano esonerate e costrette ad accettare i T&C scritti dagli stessi pochi potenti fornitori di tecnologia.
Un tale sforzo è estremamente necessario anche se arriva troppo tardi per tenere il governo del Regno Unito nel patto di stringere termini più sensibili al paziente con Amazon USA.
