Ma la tecnologia potrebbe distruggere la fiducia e i legami sociali.
Sapete riconoscere un bugiardo? È una domanda che immagino sia venuta in mente a molti ultimamente, sulla scia di vari dibattiti politici televisivi. Le ricerche hanno dimostrato che in genere non siamo in grado di distinguere la verità dalla menzogna.
Alcuni ritengono che l’intelligenza artificiale potrebbe aiutarci a migliorare le nostre probabilità e a fare meglio di tecniche antiquate come il poligrafo. I sistemi di rilevamento della menzogna basati sull’intelligenza artificiale potrebbero un giorno essere utilizzati per aiutarci a distinguere i fatti dalle fake news, a valutare le affermazioni e potenzialmente anche a individuare le bugie e le esagerazioni nelle domande di lavoro. La domanda è se ci fideremo di loro. E se dovremmo farlo. In uno studio recente, Alicia von Schenk e i suoi colleghi hanno sviluppato uno strumento che è significativamente migliore delle persone nell’individuare le bugie. La Von Schenk, economista dell’Università di Würzburg in Germania, e il suo team hanno poi condotto alcuni esperimenti per scoprire come le persone lo utilizzavano. Per certi versi, lo strumento si è rivelato utile: le persone che lo hanno utilizzato sono state più brave a individuare le bugie. Ma ha anche portato le persone a fare molte più accuse.
In uno studio pubblicato sulla rivista iScience, la von Schenk e i suoi colleghi hanno chiesto a dei volontari di scrivere delle dichiarazioni sui loro programmi per il fine settimana. Per metà del tempo, le persone sono state incentivate a mentire; una dichiarazione credibile ma non veritiera è stata ricompensata con una piccola somma di denaro. In totale, il team ha raccolto 1.536 dichiarazioni da 768 persone.
Hanno poi utilizzato l’80% di queste dichiarazioni per addestrare un algoritmo su bugie e verità, utilizzando il modello linguistico BERT di Google. Quando hanno testato lo strumento risultante sull’ultimo 20% di affermazioni, hanno scoperto che era in grado di dire con successo se un’affermazione era vera o falsa il 67% delle volte. Si tratta di un risultato nettamente migliore rispetto a quello di un essere umano: di solito ci riusciamo solo nella metà dei casi.
Per scoprire come le persone potrebbero utilizzare l’intelligenza artificiale per individuare le bugie, la von Schenk e i suoi colleghi hanno diviso altri 2.040 volontari in gruppi più piccoli e hanno eseguito una serie di test.
Uno di questi test ha rivelato che, quando alle persone viene data la possibilità di pagare una piccola somma per utilizzare uno strumento di intelligenza artificiale in grado di aiutarle a individuare le bugie – e di ottenere una ricompensa finanziaria – non sono comunque molto propense a utilizzarlo. Solo un terzo dei volontari a cui è stata data questa possibilità ha deciso di usare lo strumento di intelligenza artificiale, forse perché sono scettici nei confronti della tecnologia, dice von Schenk. (Forse sono anche troppo ottimisti sulle loro capacità di individuare le bugie).
Ma quel terzo di persone ripone davvero fiducia nella tecnologia. “Quando si fa la scelta attiva di affidarsi alla tecnologia, vediamo che le persone seguono quasi sempre le previsioni dell’IA… si affidano molto alle sue previsioni”, dice la von Schenk.
Questa fiducia può plasmare il nostro comportamento. Normalmente, le persone tendono a supporre che gli altri dicano la verità. Questo è stato dimostrato da questo studio: anche se i volontari sapevano che metà delle affermazioni erano bugie, ne hanno segnalate solo il 19%. Ma la situazione è cambiata quando le persone hanno scelto di utilizzare lo strumento dell’intelligenza artificiale: il tasso di accusa è salito al 58%.
Per certi versi, questo è un aspetto positivo: questi strumenti possono aiutarci a individuare un maggior numero di bugie che incontriamo nella nostra vita, come la disinformazione che potremmo trovare sui social media.
Ma non è tutto positivo. Potrebbe anche minare la fiducia, un aspetto fondamentale del comportamento umano che ci aiuta a creare relazioni. Se il prezzo di giudizi accurati è il deterioramento dei legami sociali, ne vale la pena?
E poi c’è la questione dell’accuratezza. Nel loro studio, la von Schenk e i suoi colleghi erano interessati a creare uno strumento che fosse migliore degli esseri umani nel rilevare le bugie. Non è un obiettivo troppo difficile, visto che siamo pessimi in questo campo. Ma la von Schenk immagina anche che uno strumento come il suo possa essere usato per valutare di routine la veridicità dei post sui social media o per scovare dettagli falsi nei curricula o nelle risposte ai colloqui di lavoro di chi cerca lavoro. In casi come questi, non è sufficiente che una tecnologia sia “migliore dell’uomo”, se deve formulare più accuse.
Saremmo disposti ad accettare un tasso di accuratezza dell’80%, in cui solo quattro affermazioni su cinque sarebbero interpretate correttamente come vere o false? Sarebbe sufficiente anche un’accuratezza del 99%? Non ne sono sicuro.
Vale la pena ricordare la fallibilità delle tecniche storiche di rilevazione della menzogna. Il poligrafo è stato progettato per misurare la frequenza cardiaca e altri segni di “eccitazione” perché si pensava che alcuni segni di stress fossero propri dei bugiardi. Non lo sono. E questo lo sappiamo da tempo. Ecco perché i risultati della macchina della verità non sono generalmente ammissibili nei processi giudiziari statunitensi. Ciononostante, i test della macchina della verità hanno resistito in alcuni contesti e hanno causato molti danni quando sono stati usati per lanciare accuse alle persone che non li hanno superati nei reality show televisivi.
Secondo von Schenk, gli strumenti di intelligenza artificiale imperfetta possono avere un impatto ancora maggiore perché sono facilmente scalabili. È possibile sottoporre a poligrafo solo un numero limitato di persone in un giorno. In confronto, il campo di applicazione dell’IA per la rilevazione delle bugie è quasi illimitato.
“Dato che si stanno diffondendo così tante fake news e disinformazione, queste tecnologie sono vantaggiose”, afferma von Schenk. “Tuttavia, è necessario testarle: bisogna assicurarsi che siano sostanzialmente migliori degli esseri umani”. Se una macchina della verità AI genera molte accuse, sarebbe meglio non usarla affatto”, afferma la von Schenk.
