Himabindu Lakkaraju, ricercatrice dell’Università di Harvard, ha elaborato un programma di intelligenza artificiale, rivolto soprattutto a giudici e medici, che mira a eliminare i pregiudizi nei processi decisionali.
di Erika Beras
L’apprendimento automatico e l’intelligenza artificiale sono sempre più utilizzati dalle forze dell’ordine per decidere a quali imputati concedere la cauzione, dalle istituzioni sanitarie per scegliere tra diverse terapie e dalle istituzioni finanziarie per stabilire a chi dare un prestito.
Ma prendere decisioni con i sistemi automatici può nascondere delle insidie: al software possono sfuggire delle sfumature che un essere umano può cogliere nel rapporto interpersonale. Anche le persone, però, possono essere distratte o avere i loro pregiudizi, specialmente quando sono sotto pressione e devono prendere decisioni di grande importanza.
Il sistema di Lakkaraju non si basa esclusivamente sulle scelte umane o sull’apprendimento automatico, ma usa una combinazione dei due. Il suo programma di IA utilizza set di dati che mettono a confronto le procedure decisionali automatiche e umane, cercando di individuare in quali passaggi potrebbe intervenire un pregiudizio.
Il suo software viene ora utilizzato dalle scuole della contea di Montgomery, nel Maryland, per identificare gli studenti a rischio e prevedere se un bambino avrà necessità di un tutoraggio.
“I distretti scolastici dispongono spesso di risorse limitate, quindi sapere in anticipo chi è a rischio permette di sfruttare queste risorse per quegli studenti che ne possono trarre il massimo beneficio”, conclude Lakkaraju.
Immagine: Himabindu Lakkaraju
(rp)
