La lettera, firmata da nove membri del Congresso, invia un segnale importante su come le autorità di regolamentazione hanno intenzione di muoversi nei confronti dei giganti della tecnologia.
di Karen Hao
Nove membri del Congresso degli Stati Uniti hanno inviato una lettera a Google chiedendogli di chiarire le circostanze intorno all’allontamento forzato del suo ex co-leader dell’AI etica Timnit Gebru. Guidata dalla rappresentante Yvette Clarke e dal senatore Ron Wyden, e co-firmata dai senatori Elizabeth Warren e Cory Booker, la lettera invia un segnale importante sulla imminente regolamentazione per le Big Tech.
Gebru, una voce di spicco nell’etica dell’AI e una delle poche donne nere di Google, è stata licenziata senza tante cerimonie due settimane fa, dopo un lungo disaccordo su un documento di ricerca, in cui si illustravano i rischi di discriminazione legati agli algoritmi addestrati su enormi quantità di dati di testo, che alimentano il sistema di Ricerca di Google.
Citando gli articoli di “MIT Technology Review”, la lettera solleva tre questioni: i pregiudizi nei modelli linguistici di grandi dimensioni, la crescente influenza aziendale sulla ricerca sull’AI e la scarsa presenza di minoranze a Google. Al CEO di Google Sundar Pichai viene chiesto un piano concreto su come affronterà ciascuna di queste tematiche, nonché la sua attuale politica sulla revisione della ricerca e i dettagli sulla sua indagine in corso sull’uscita di Gebru (Pichai si è impegnato in questa indagine in una nota interna, pubblicata da Axios).
“In qualità di membri del Congresso che cercano attivamente di migliorare la ricerca, la responsabilità e la diversità nel settore dell’AI attraverso la legislazione e la supervisione, chiediamo rispettosamente di rispondere alle nostre richieste”, è scritto nella lettera.
Nell’aprile del 2019, Clarke e Wyden hanno introdotto un disegno di legge, l’ Algorithmic Accountability Act, che richiede alle grandi aziende di controllare i propri sistemi di apprendimento automatico per individuare errori e intraprendere azioni correttive in modo tempestivo se tali problemi fossero identificati. Prevede inoltre che tali aziende controllino tutti i processi che coinvolgono dati sensibili, comprese le informazioni di identificazione personale, biometriche e genetiche, per i rischi per la privacy e la sicurezza.
All’epoca, molti esperti legali e tecnologici hanno elogiato il disegno di legge per la sua attenta analisi del mondo dell’AI e delle tecnologie basate sui dati. “Un ottimo primo passo”, ha scritto Andrew Selbst, ricercatore della University California Los Angeles School of Law, su Twitter. “La proposta richiederebbe ulteriore documentazione, valutazione e proposte per affrontare gli impatti previsti, ma è comunque seria e incredibilmente necessaria”.
L’ultima lettera non contiene riferimenti diretti all’Algorithmic Accountability Act, ma fa parte di una serie di iniziative di alcuni membri del Congresso per adottare una legislazione che mitighi i pregiudizi dell’AI e le conseguenze negative dei sistemi automatizzati basati sui dati. In particolare, arriva in coincidenza con la crescente pressione per la regolamentazione antitrust. All’inizio di questo mese, la Federal Trade Commission degli Stati Uniti ha intentato una causa antitrust contro Facebook per “condotta anticoncorrenziale e metodi di concorrenza sleali”. Durante l’estate, House Democrats ha pubblicato un rapporto di 449 pagine sulle pratiche monopolistiche delle Big Tech.
La lettera arriva anche nel contesto delle crescenti tensioni geopolitiche. Poiché le relazioni USA-Cina hanno raggiunto il minimo storico durante la pandemia, i funzionari statunitensi hanno sottolineato l’importanza strategica delle tecnologie emergenti come l’AI e il 5G. La lettera prende in considerazione anche questa dimensione, riconoscendo la leadership di Google nell’AI, ma chiarendo che questo non dovrebbe minare l’azione normativa, come più volte sostenuto dal CEO di Facebook Mark Zuckerberg.
“Per garantire che l’America vinca la corsa all’AI”, continua la lettera, “le aziende tecnologiche americane non devono solo guidare il mondo nell’innovazione, ma anche garantire che tale innovazione rifletta i valori della nostra nazione “. “La missiva dovrebbe far capire a tutti nel settore tecnologico, non solo a Google, che stiamo monitorando la situazione”, ha dichiarato Clarke a “MIT Technology Review”. “L’intelligenza artificiale etica è il campo di battaglia per il futuro dei diritti civili. Le nostre preoccupazioni sui recenti sviluppi non riguardano solo una persona, ma l’intero secolo, nel caso la libertà accademica e l’inclusione fossero messe in secondo piano rispetto ad altre priorità.
Immagine di: La deputata democratica Yvette Clarke.AP PHOTO / Kathy Willens
