Le e-mail appena pubblicate mostrano che la polizia di New York ha ampiamente utilizzato il controverso sistema di riconoscimento facciale di Clearview AI e ha rilasciato dichiarazioni fuorvianti al riguardo.
di Tate Ryan Mosley
È stata una settimana impegnativa per Clearview AI, la controversa azienda di riconoscimento facciale che utilizza 3 miliardi di foto estratte dal Web per alimentare un motore di ricerca per i volti. Il 6 aprile, “Buzzfeed News” ha pubblicato un database di oltre 1.800 organizzazioni, tra cui polizia statale e locale e altre agenzie finanziate dai contribuenti come i sistemi sanitari e le scuole pubbliche, che si dice abbiano utilizzato i prodotti controversi dell’azienda.
Molte di queste agenzie hanno risposto alle accuse dicendo di aver solo provato la tecnologia e di non avere alcun contratto formale con l’azienda.
Ma la questione è apparsa più chiara quando il sito di notizie senza scopo di lucro Muckrock ha rilasciato e-mail tra il dipartimento di polizia di New York e Clearview. I documenti, ottenuti attraverso le richieste della Legal Aid Society e della giornalista Rachel Richards, tracciano un rapporto amichevole di due anni tra il dipartimento e l’azienda tecnologica durante il quale il NYPD ha testato la tecnologia molte volte e ha utilizzato il riconoscimento facciale nelle indagini.
Il NYPD ha in precedenza minimizzato la sua relazione con Clearview AI e il suo utilizzo della tecnologia dell’azienda. Ma le e-mail mostrano che il rapporto tra loro era ben sviluppato, con un gran numero di agenti di polizia che conducevano un alto volume di ricerche con l’app e le utilizzavano in indagini reali. Il NYPD ha eseguito oltre 5.100 ricerche con Clearview AI.
Ciò è particolarmente problematico perché le politiche dichiarate limitano il NYPD alla creazione di un archivio di foto non supervisionato a cui possono fare riferimento i sistemi di riconoscimento facciale e limitano l’uso della tecnologia di riconoscimento facciale a un team specifico. Entrambe le politiche sembrano essere state aggirate con Clearview AI.
Le e-mail rivelano che il NYPD ha dato a molti agenti esterni al team di riconoscimento facciale l’accesso al sistema, che si basa su un’enorme libreria di foto pubbliche dai social media. Le e-mail mostrano anche come gli ufficiali del NYPD abbiano scaricato l’app sui loro dispositivi personali, in violazione delle politiche dichiarate, e abbiano utilizzato la tecnologia potente e di parte in modo casuale.
Clearview AI gestisce un’efficiente rete neurale che elabora le fotografie dei volti e confronta la loro precisa misurazione e simmetria con un enorme database di immagini per suggerire possibili corrispondenze. Non è chiaro quanto sia accurata la tecnologia, ma è ampiamente utilizzata dai dipartimenti di polizia e da altre agenzie governative.
Clearview AI è stata decisamente criticata per il suo utilizzo di informazioni di identificazione personale, per la sua decisione di violare la privacy delle persone prelevando fotografie da Internet senza i dovuti permessi e per la scelta della clientela.
Le e-mail coprono un periodo da ottobre 2018 a febbraio 2020, a partire da quando il CEO di Clearview AI Hoan Ton-That è stato presentato a Chris Flanagan, un vice ispettore del NYPD. Dopo gli incontri iniziali, Clearview AI ha stipulato un contratto con il NYPD nel dicembre 2018 su base di prova che è durato fino al marzo successivo.
I documenti mostrano che molte persone del NYPD hanno avuto accesso a Clearview durante e dopo questo periodo, dalla leadership del dipartimento agli ufficiali più giovani. Durante gli scambi, Clearview AI ha incoraggiato un maggiore utilizzo dei suoi servizi. Le e-mail mostrano che gli account di prova per il NYPD sono stati creati fino a febbraio 2020, quasi un anno dopo che si diceva che il periodo di prova fosse terminato.
Abbiamo esaminato le e-mail e parlato con i migliori esperti di sorveglianza e legali in merito ai loro contenuti. Ecco cosa non hanno detto.
Il NYPD ha dichiarato in precedenza a “BuzzFeed News” e al “New York Post” di non avere “alcuna relazione istituzionale” con Clearview AI, “formalmente o informalmente”. Il dipartimento ha rivelato di aver provato Clearview AI, ma le e-mail mostrano che la tecnologia è stata utilizzata per un periodo di tempo prolungato da un gran numero di persone che hanno completato un elevato volume di ricerche in indagini reali.
In uno scambio, un detective che lavora nell’unità di riconoscimento facciale del dipartimento ha detto: “L’app funziona alla grande”. In un altro, un ufficiale della squadra per i furti di identità del NYPD ha sostenuto che “continuiamo a ottenere risultati positivi e a fare arresti”. Abbiamo rimosso i nomi completi e gli indirizzi e-mail da queste immagini; altri dettagli personali sono stati oscurati nei documenti originali.(Si veda immagine 1)
Albert Fox Cahn, direttore esecutivo del Surveillance Technology Oversight Project, un’organizzazione no profit che sostiene l’abolizione dell’uso da parte della polizia della tecnologia di riconoscimento facciale a New York City, afferma che i documenti contraddicono chiaramente le precedenti dichiarazioni pubbliche del NYPD sul suo utilizzo di Clearview AI.
“Come si può vedere, alcuni ufficiali ottengono account Clearview, non per settimane o mesi, ma per anni”, dice. “Abbiamo prove di incontri con funzionari al più alto livello del NYPD, inclusa la sezione che si occupa dell’identificazione del volto. Non sono pochi gli ufficiali che decidono di andarsene e ottenere un account di prova. Questa è stata un’adozione sistematica della tecnologia di riconoscimento facciale di Clearview AI”.
Inoltre, la descrizione del NYPD del suo uso del riconoscimento facciale, prevista da una legge approvata di recente, afferma che “gli investigatori confrontano le immagini ottenute durante le indagini con un gruppo controllato e limitato di fotografie già in possesso del NYPD”. Clearview AI è nota per il suo database di oltre 3 miliardi di foto estratte dal web.
I documenti contengono più e-mail del NYPD che sembrano essere riferimenti per aiutare Clearview a vendere la sua tecnologia al Department of Homeland Security. Due agenti di polizia avevano entrambe le affiliazioni NYPD e Homeland Security nella loro firma e-mail, mentre un altro ufficiale era identificato come membro di una task force per la sicurezza nazionale.
New York è designata come una città santuario, il che significa che le forze dell’ordine locali limitano la cooperazione con le agenzie federali per l’immigrazione. In effetti, la dichiarazione della politica di riconoscimento facciale del NYPD afferma che “le informazioni non vengono condivise a sostegno dell’applicazione della legge sull’immigrazione” e “l’accesso non sarà concesso ad altre agenzie per questo scopo”.
“Penso che una delle principali conclusioni si incentri su quanto siano illegali e non regolamentate le interazioni e il panorama della sorveglianza e della condivisione dei dati tra polizia locale, forze dell’ordine federali, forze dell’ordine in materia di immigrazione”, afferma Matthew Guariglia, analista presso la Electronic Frontier Foundation. “Sembra che ci sia così tanta comunicazione, forse condivisione di dati e uno smoderato uso non regolamentato della tecnologia”.
Cahn afferma che le e-mail suonano come un campanello d’allarme, in particolare perché una grande quantità di informazioni sulle forze dell’ordine passa attraverso sistemi centrali noti come centri di fusione.
“Si può affermare di essere una città santuario quanto si vuole, ma finché si continua ad avere task force del DHS e centri di fusione delle informazioni che consentono lo scambio di dati in tempo reale con il DHS, si fa diventare questa premessa una menzogna”.
Almeno quattro agenti hanno chiesto di accedere all’app di Clearview sui propri dispositivi personali o tramite e-mail personali. I dispositivi del dipartimento sono strettamente regolamentati e può essere difficile scaricare le applicazioni sui telefoni cellulari ufficiali del NYPD. Alcuni agenti hanno chiaramente scelto di utilizzare i propri dispositivi personali quando i criteri d’uso dei telefoni del dipartimento apparivano troppo restrittivi.
Clearview ha risposto alla seguente email (si veda immagine 2): “Ciao William, dovresti avere a breve un’email di configurazione nella tua posta in arrivo”.
Jonathan McCoy è un avvocato di scienza digitale forense presso la Legal Aid Society e ha partecipato alla richiesta di informativa. Ha trovato particolarmente problematico l’uso dei dispositivi personali: “La mia conclusione è che stavano attivamente cercando di aggirare le politiche e le procedure del NYPD che affermano che se si intende utilizzare la tecnologia di riconoscimento facciale, è necessario passare attraverso la FIS (sezione che si occupa dell’identificazione del volto) e devono utilizzare la tecnologia che è già stata approvata dal NYPD”. Il Dipartimento di polizia ha già un sistema di riconoscimento facciale, fornito da una società chiamata Dataworks.
Guariglia afferma che indica un atteggiamento di negligenza sia da parte del NYPD che di Clearview AI. “Sarei inorridito nell’apprendere che gli agenti di polizia stavano usando Clearview sui loro dispositivi personali per identificare le persone che hanno poi contribuito agli arresti o alle indagini ufficiali del NYPD”, egli afferma.
Le preoccupazioni sollevate da queste e-mail non sono solo teoriche: potrebbero mettere la polizia di fronte a richieste di impugnazione in tribunale e persino ribaltare i casi a causa della mancata adesione alla procedura. McCoy afferma che la Legal Aid Society prevede di utilizzare le prove delle e-mail per difendere i clienti che sono stati arrestati a seguito di un’indagine che ha utilizzato il riconoscimento facciale.
“Speriamo di avere una base per andare in tribunale e dire che qualunque condanna ottenuta attraverso l’uso del software è stata fatta in un modo che non era commisurato alle politiche e alle procedure del NYPD. Poiché Clearview è una tecnologia non testata e inaffidabile”, conclude, “potremo sostenere che l’uso di tale tecnologia ha pregiudicato i diritti dei nostri clienti”.
