Sam Altman ha provato a dare a ChatGPT-4o la voce di Scarlett Johansson per avvicinare le persone alle interazioni vocali, ma la vera sfida è – all’opposto – mantenerne le distanze. Questi modelli hanno imparato a parlare, ma non pensano, non possiedono coscienza e la loro intelligenza è solo una (utilissima) illusione.
Sky vs Scarlett
Pare che Sam Altman, CEO di OpenAI, si sia fissato con la voce di Scarlett Johansson nel film “Her” (2013, Spike Jonze) per dare vita all’agente conversazionale ChatGPT-4o, nome in codice “Sky”. Nonostante il rifiuto pervicace dell’attrice, Altman ha insistito e – durante uno degli intervalli tecnici necessari per una risposta da parte del di lei team di avvocati – ha svelato la sua ultima creatura con una voce che persino la madre di Scarlett avrebbe giurato essere quella di sua figlia.
L’intento era di conquistare gli utenti di ChatGPT, offrendo loro un agente parlante e particolarmente rassicurante con cui sviluppare una conversazione. Questo avrebbe permesso a OpenAI di raccogliere dati preziosi sulle interazioni vocali, grazie alle numerose (più di 180 milioni) licenze gratuite in circolazione. Tuttavia, la voce di Sky-Scarlett è stata ritirata poco dopo. Io sono contenta: personalmente, ho trovato irritante il debutto di ChatGPT-4o con una voce femminile carezzevole e melliflua, ansiosa di eseguire ordini per dimostrare le sue capacità. Magari sono solo permalosa. Comunque, non è questo il punto principale.
La vera sfide è mantenere le distanze
Mi metto nei panni di Sam Altman: comprendo che la voce sia un fattore chiave di usabilità. Ma davvero dobbiamo metterci nei guai legali per una voce così specifica? Davvero sei lo stesso Sam Altman che ha dato vita a un’entità chiamata con un nome impronunciabile, riconducibile a un acronimo incomprensibile per i più (Generative Pre-trained Transformer)? La tendenza all’antropomorfismo è radicata nella nostra storia e psicologia. Il successo di una cosa chiamata ChatGPT dimostra che non serve che un agente conversazionale “risuoni” particolarmente umano per conquistarci. Al contrario, la vera sfida è mantenere le distanze.
È quasi inevitabile, per esempio, credere che questi sistemi di intelligenza artificiale pensino davvero.
Pensiero senza parole, parole senza pensiero
La connessione tra pensiero e linguaggio è semplice ma profondamente rilevante. Lo scienziato cognitivo Edward Gibson lo spiega chiaramente nella sua recente intervista a Lex Fridman (MIT): il linguaggio è “semplicemente” una struttura per trasmettere il pensiero. Gli LLM (Large Language Models) sono eccezionali nel processare la struttura del linguaggio, ma ciò non implica che abbiano la capacità di “pensare”.
Secondo Gibson, il linguaggio è progettato per facilitare la comunicazione. Usiamo il linguaggio per risolvere problemi concreti, come distinguere un oggetto da un altro. Questo spiega perché molti di noi ignorano l’esistenza di oltre 30 parole per dire ‘rosso’ in italiano. Il linguaggio esprime ciò che è utile esprimere, non tutto quello che esiste o viene pensato, anzi.
Gibson afferma proprio che il pensiero può esistere senza linguaggio, contrariamente all’idea comune che il linguaggio sia necessario per articolare un pensiero complesso. Gli esseri umani, e forse anche altri animali, possono avere pensieri complessi senza verbalizzarli.
LLM: maestri della struttura, non del pensiero
Gli LLM, come GPT-4o, sono straordinari nel gestire e generare strutture linguistiche. Sono facilitati anche dal fatto che le strutture linguistiche, come dice il padre della linguistica moderna Noam Chomsky, sono estremamente schematiche e ripetitive. Possono produrre testi che sembrano incredibilmente umani, rispondere a domande, creare storie, immagini, film, imitare stili di scrittura e persino voci umane (come quella di Scarlett Johansson). Tuttavia, questo non significa che stiano pensando. Gli LLM analizzano immense quantità di dati linguistici e apprendono pattern statistici, ma non hanno in nessun modo comprensione o coscienza.
La prospettiva funzionale al linguaggio che propone Gibson ci permette anche di comprendere perché le lingue cambiano e si adattano rapidamente: sono strumenti flessibili che le persone modificano per risolvere problemi comunicativi emergenti. Ad esempio, i verbi irregolari in inglese sono irregolari perchè riflettono questa evoluzione dinamica, e non a caso sono i più utilizzati!
Questo pone un’ulteriore domanda: gli LLM, costruiti sui problemi comunicativi del passato (la loro knowledge base), saranno in grado di aiutarci a interpretare il presente e a costruire il futuro? Se affidassimo a loro tutta o parte della nostra comunicazione, in che modo si modificherebbe l’evoluzione linguistica? Rallenterebbe? Quanto? In che modo questo cambiamento potrebbe influenzare il nostro pensiero, viceversa? E’ vero infatti che esiste pensiero senza linguaggio, ma è altrettanto vero che il linguaggio influenza il pensiero e modella addirittura il nostro cervello. Numerosi linguisti sostengono che ogni linguaggio contiene una sua “visione del mondo” e la infonde, almeno in parte, in chi lo parla.
Illusioni di intelligenza
La sofisticazione degli LLM può far pensare che ci sia una forma di intelligenza dietro le loro risposte. Tuttavia, è cruciale ricordare che questi modelli non hanno esperienze, emozioni o comprensione del mondo. Rispondono basandosi su correlazioni nei dati di addestramento, non su intuizioni o riflessioni personali.
Edward Gibson ci offre una prospettiva preziosa sulla natura del linguaggio e del pensiero. Mentre gli LLM sono avanzati strumenti di elaborazione linguistica, non possiedono la capacità di pensare. Il linguaggio è un mezzo per esprimere il pensiero, ma il pensiero può esistere, e di fatto esiste, indipendentemente da esso. Così come il linguaggio può esistere, e di fatto esiste, senza il pensiero. Questo distacco tra struttura e coscienza è fondamentale per comprendere il vero potenziale degli LLM e sfruttare al meglio le loro capacità.
Irene Cassarino è un’imprenditrice, ingegnere, scrittrice, investigatrice nel campo del machine learning e dell’intelligenza artificiale. Ha fondato la sua terza azienda, aipermind, per rivoluzionare i processi di innovazione grazie all’AI. Autrice di “Mercati Infiniti” (ed. Franco Angeli), crede che l’innovazione salverà il mondo, un problema alla volta.
