I sistemi di IA intesi a individuare contenuti online che incitano all’odio hanno molte più probabilità di etichettare i tweet come “offensivi” se pubblicati da persone che si identificano come afroamericani.
di Charlotte Jee
I ricercatori hanno costruito due sistemi di intelligenza artificiale e li hanno testati su una coppia di set di dati di oltre 100.000 tweet che erano stati annotati dagli umani con etichette come “offensivo”, “neutro” o “discorso di odio”.
Uno degli algoritmi ha erroneamente contrassegnato come offensivi il 46 per cento dei tweet neutri di autori afroamericani. Test su set di dati più grandi, tra cui uno composto da 5,4 milioni di tweet, hanno scoperto che i post di autori afroamericani avevano una probabilità 1,5 volte maggiore di essere etichettati come offensivi.
Quando i ricercatori hanno preso in esame Perspective, la piattaforma di Google che modera le discussioni online, hanno riscontrato lo stesso livello di pregiudizi razziali.
Le uccisioni di massa perpetrate dai suprematisti bianchi negli Stati Uniti e in Nuova Zelanda hanno portato a richieste crescenti da parte dei politici di piattaforme di social media che intervengano direttamente per eliminare i discorsi di odio.
Questi studi sottolineano quanto sia complicato questo compito. Se la lingua è offensiva può dipendere dalle intenzioni di chi scrive o da cosa capisce chi legge il commento.
Per esempio, una persona di colore usa una determinata espressione con un senso molto diverso da una persona bianca. Ma i sistemi di intelligenza artificiale non sono ancora in grado di cogliere tali sfumature.
Il solo utilizzo del software per eliminare automaticamente il linguaggio offensivo, rischia di mettere a tacere le voci delle minoranze.
La moderazione dei contenuti online è un lavoro delicato e complesso, quindi le aziende tecnologiche preferiscono fare affidamento sui sistemi di intelligenza artificiale (molto più economici) anziché sugli esseri umani. Questo studio dimostra gli enormi rischi che si corrono.
(rp)
