La mente sotto assedio - Intervista a Bruno Giussani

Bruno Giussani, per quasi 20 anni direttore europeo e curatore globale della fondazione TED che organizza i TED Talks. Giornalista e podcaster, da decenni si occupa di tematiche relative all’era tecnologica. Lo abbiamo intervistato sui temi proposti nel suo recente volume «La mente sotto assedio. Come non lasciarsi manipolare nell’era dell’intelligenza artificiale».

Un Large Language Model (LLM) è un sistema di intelligenza artificiale addestrato per elaborare e generare il linguaggio naturale, quello usato da noi umani. Punta alla forma e alla fluidità persuasiva del linguaggio che produce. La verità del contenuto non viene considerata prioritaria?
Dice bene, un «chatbot», come li chiamiamo, tipo ChatGPT (ma ce ne sono molti altri, Claude, LeChat, eccetera) elabora e imita il nostro linguaggio ma, appunto, è un modello di linguaggio, non un modello di pensiero, di comprensione del mondo. Lavora sulle strutture linguistiche e sintattiche, anche molto variate e sofisticate, decifrando quel che diciamo e rispondendovi, ma senza capirne il significato.

È una specie di paradiso dei linguisti, perché ha la struttura perfetta, il linguaggio è eccellente, anche se non tiene conto della veridicità di quello che dice.

Assolutamente. Non c’è quasi nulla nella struttura di programmazione di un chatbot di intelligenza artificiale che metta la priorità sulla fattualità delle cose, sulla veridicità dell’informazione trasmessa dalla macchina. La priorità è data alla fluidità del discorso, del testo, oppure alla coerenza dell’immagine. Chiediamo la bozza di una lettera, di un’email o di un tema per il compito a casa, diamo delle istruzioni. Diciamo «fai questo, questo e quest’altro» e, in pochi secondi, la macchina produce un testo fluido, bello, corretto, sia sintatticamente che ortograficamente. Lo troviamo quasi magico, no? Lo ha fatto in qualche secondo, è forse migliore di quello che avremmo potuto scrivere noi in una decina di minuti. Istintivamente, la fluidità e correttezza del testo ci porta a considerare che, dietro, deve esserci una mente che l’ha prodotto, una mente che funziona un po’ come la nostra, che capisce quel che dice. In realtà non è così: la macchina capisce principalmente come ha strutturato il linguaggio per creare il testo in modo fluido. Lo so, non è un’idea facile da spiegare. Noi siamo prigionieri di questa tensione fra il testo, che ci sembra bello e corretto, e il fatto che dietro questa fluidità si nasconda una scarsa affidabilità.

Noi ci rivolgiamo a questi programmi per sapere, mentre, alla fine, è tutto improntato sulla creatività. C’è da preoccuparsi?

È importante capire che un chatbot non è un motore di ricerca. Un chatbot è uno strumento di generazione linguistica, o di immagini. Il motore di ricerca classico è un sistema che cerca di ordinare l’informazione per farci arrivare alla fonte più appropriata per la domanda che noi abbiamo, per l’informazione che noi cerchiamo. Un chatbot produce direttamente un riassunto - il suo riassunto, secondo i suoi criteri, i suoi filtri, il modo in cui è stato programmato. Non è mai neutrale né oggettivo: i chatbot, come tutte le tecnologie digitali, incorporano e codificano visioni del mondo specifiche. Anche se vi sono delle fonti indicate, è comunque un filtro.

Secondo lei, l’IA si può definire democratica, nel senso che ci risponde non considerando la nostra etnia, il nostro stato sociale, il genere e il titolo di studio?

In realtà, considera tutte queste cose e anche molte altre. Ogni interazione con una piattaforma informativa, che sia un social, una piattaforma di commercio elettronico, un sistema di intrattenimento, un chatbot, se per usarla ci identifichiamo, la macchina cattura delle informazioni su di noi: quello che diciamo, chiediamo, scriviamo. Quando entro in dialogo con un chatbot, ogni mio input è un’informazione supplementare che la macchina può acquisire su di me per generare una comprensione del mio profilo. In realtà gli aspetti socioeconomici, come molte altre informazioni personali, sono presi in considerazione. 

Ma è vero che questi sistemi non sono democratici. Certo, permettono a tutti di ricercare, di pubblicare, di vendere. In questo senso, espandono la nostra capacità d’azione individuale. Ma strutturalmente sono piattaforme autoritarie: sono tutte basate sulla sorveglianza costante dell’utilizzatore, sulla cattura di dati, sul controllo. I profili d’uso così generati sono poi utilizzati per filtrare l’informazione, per strutturarla in un certo modo (è quel che si chiama la «personalizzazione»), per incitarci a fare delle cose che non faremmo in situazione di non-influenza, poco importa che sia cliccare su un’icona, acquistare qualcosa online, o adottare certe posizioni politiche.

Siamo sempre più vincolati dall’obbligo di doverci aggiornare sulle novità tecnologiche. Possiamo ancora permetterci di non sapere utilizzare queste nuove tecnologie?

No, a meno di decidere volontariamente di isolarsi da una parte della nostra vita quotidiana. Non è il caso soltanto dell’intelligenza artificiale: la nostra vita tanto professionale che sociale che privata, e anche politica, è sempre più strutturata da e attraverso sistemi digitali: schermi, piattaforme, algoritmi. Non c’è mai stato nella storia un oggetto tanto guardato quanto uno smartphone. E stiamo dirigendoci verso un futuro in cui quasi tutte le funzioni essenziali, che siano economiche o sociali, passeranno attraverso queste piattaforme.

Per noi europei, ciò comporta un problema supplementare: la maggioranza - dell’ordine dei tre quarti - di tutte le tecnologie digitali che utilizziamo sono americane, e molte sono controllate da un piccolo gruppo di aziende, le cosiddette Big Tech. Ciò ci pone in una situazione di dipendenza tecnologica significativa. Non è un caso se il tema della «sovranità digitale», che tratto anche nel mio libro, negli ultimi anni è diventato così discusso.

Ma per tornare alla sua domanda: nessuna tecnologia, una volta inventata, può essere «disinventata». Neppure quelle più terribili, gli agenti biologici, le armi nucleari: le teniamo sotto chiave, ma continuano ad esistere. Quindi l’intelligenza artificiale è arrivata e rimarrà, continueremo a farla evolvere, dovremo imparare a conviverci, a strutturare una relazione fra l’intelligenza umana e forme di cognizione sintetiche. Non è una cosa banale. Richiederà profonde riflessioni e scelte morali, etiche, economiche, legali, politiche. Ciò significa anche che in futuro non ci saranno più professioni che non avranno a che fare da vicino o da lontano con forme di intelligenza artificiale. E non penso solo ai chatbot, ma anche ad altri tipi di IA, quelle utilizzate per cose come la lettura delle radiografie o l’ottimizzazione dei sistemi industriali. Per cui è importante imparare a utilizzarle. Ma soprattutto importante, e le due cose non possono essere disgiunte, capire cosa sono queste tecnologie: perché sono fatte nel modo in cui sono fatte, perché danno le risposte che danno e non altre, chi le ha create e perché, chi le controlla, che tipo di visioni del mondo codificano, che impatti hanno su di noi. Come dice Papa Leone, la questione non è solo quello che l’IA può fare, ma anche ciò che diventiamo noi quando usiamo queste tecnologie. Nel libro cerco di spiegare che fare degli sforzi per imparare a usare una tecnologia efficacemente è necessario ma non sufficiente: bisogna anche capirne la natura. È l’unico modo per non farsi manipolare, per non farsi usare, non dalla tecnologia in sé, ma da coloro che la controllano.

Ci sarà un adattamento anche nel settore della formazione delle persone che in futuro penseranno la società, attraverso questo filtro tecnologico che prenderà quindi una traccia della loro formazione, del loro pensiero. Viene da chiedersi, visto che i giovani usano questi strumenti per fare delle ripetizioni o studiare o quant'altro, quanto rischio c'è che vengano indirizzati a studiare in un modo piuttosto che in un altro?

La questione dell'intelligenza artificiale e dell'educazione, della formazione, è di una complessità incredibile. Queste tecnologie, la cui origine si situa nella metà del secolo scorso, sono sbarcate nelle nostre vite, in particolare l'intelligenza artificiale generativa, circa tre anni e mezzo fa e sono entrate nel mondo della scuola molto rapidamente. Non è difficile capirne le ragioni. Un chatbot offre qualcosa di quasi irresistibile: la possibilità di delegare a una macchina lo sforzo di imparare, di leggere, di riassumere, di studiare, di scrivere, di argomentare, di decidere. Ho parlato recentemente con delle classi di scuola media e con delle classi di apprendisti. Quando ho chiesto: "Chi di voi usa un chatbot?" tutte le mani si sono alzate. Il commento che è seguito è stato: "Sì ma li usano anche i docenti!". Ed è vero. L'adozione è stata estremamente rapida, anche se individuale, non coordinata.
L'attrattività di queste macchine è straordinaria e l'utilità apparente a corto termine è evidente. La scuola non era preparata, i metodi di apprendimento, nemmeno. In ambito educativo ciascuno ha reagito a modo suo. Vietando, tentando di canalizzarne l'uso.

Ma c'è la necessità di imparare a convivere e a co-evolvere con questi strumenti. Possono essere utili per esempio per ripetere. Le ripetizioni di gruppo in classe non possono essere personalizzate rispetto alle capacità, alla velocità di apprendimento e al livello di conoscenza di ogni allievo. Le macchine possono essere programmate per essere molto più specifiche. Un uso di questo tipo,  il "personal tutor", probabilmente è una delle piste valide da esplorare.

L’uso più problematico è probabilmente quello della delega totale del processo di apprendimento, andando direttamente, in qualche secondo, al risultato. Devo fare questo tema: ecco il testo finito prodotto dalla macchina. Devo rispondere a queste cinque domande di fisica: ecco le cinque risposte. Ma il compito della scuola non è solo quello di condurre alla risposta giusta: è di formare le persone al processo che porta alla risposta, ad avere la capacità di sviluppare un’analisi, un'argomentazione, di creare dei percorsi di ricerca e di comprensione. Se il chatbot è utilizzato per saltare questo processo arrivando direttamente al risultato, lo scopo centrale della scuola - sviluppare la capacità di pensare - si stempera. Sul medio termine questa delega di capacità cognitive, questa rinuncia a pensare perché lo fa (in apparenza) la macchina, finisce per generare un gap che i ricercatori definiscono debito cognitivo. Delegare queste azioni alla macchina e appropriarsi del risultato, fingendo che sia nostro, crea un beneficio immediato. Invece di investire tre ore a scrivere il tema, impiego tre minuti a scrivere un "prompt" e a copiare e incollare. A medio termine però le nostre capacità cognitive non si sviluppano o addirittura cominciano a perdersi, a dissiparsi, perché non le utilizziamo. Come dice un ricercatore che cito nel libro, "uno studente che fa copia-incolla per un compito di storia è iscritto a un corso di copia-incolla, non a un corso di storia".

Ci sono altri approcci possibili. Alcuni docenti stanno sperimentando l’idea di non porre limiti all’uso dell’IA. Però, quando assegnano un compito, chiedono agli studenti di consegnare non solo il risultato, ma di documentare in dettaglio come ci sono arrivati. le domande che hanno posto, i dubbi che hanno avuto, le ricerche supplementari che hanno fatto, i passi indietro perché non andava bene o perché avevano preso una direzione sbagliata. Devono saper spiegare e difendere come sono arrivati dalla domanda alla risposta. Poco importa quale sia la risposta. Questa scelta punta al fatto di continuare a sviluppare la capacità di ragionamento dello studente, piuttosto che focalizzarsi sulla qualità del testo prodotto alla fine.

Nel suo saggio parla di neurotecnologie, che vengono collegate al nostro cervello. Strumenti sviluppati per trattamenti di persone con gravi disabilità, vengono sfruttati in contesti lavorativi.
Le neurotecnologie sono quelle tecnologie che si interfacciano direttamente col cervello, senza passare dalla mediazione di uno schermo. Ne esistono di vario tipo. Alcune aziende stanno sviluppando dei sistemi per introdurre fisicamente nel cervello degli strumenti che permettono di dare degli impulsi a specifiche zone cerebrali, affinché la persona reagisca in un dato modo. Altri sistemi invece, meno invasivi, sono sensori che si possono mettere sul cranio o in un caschetto e producono risultati simili.
Queste tecnologie sono sviluppate con l’intenzione dichiarata di aiutare persone che hanno delle limitazioni fisico-mentali, per esempio dopo un trauma, una malattia o altro. Se non possono più esprimersi, con questa tecnologia potrebbero (riescono già in contesti di laboratorio) comunicare con la macchina, con un computer e fare delle cose: esprimersi, dare ordini. 

Si tratta insomma di tecnologie capaci di "leggere" le onde cerebrali. Il che non significa, è importante dirlo, leggere i pensieri. Ma le stesse tecnologie possono essere usate per "scrivere" nel cervello, per inviare impulsi mirati. Possiamo quindi immaginare altri usi possibili, su uno spettro che va dal monitoraggio all’influenza.

Per esempio è positivo che chi usa dei macchinari grandi e complessi (treni ad alta velocità, camion che circolano nelle miniere) indossi dei sensori che permettono di verificare se sono svegli, se fanno attenzione, se non sono distratti, se non si stanno addormentando. Però gli stessi sensori possono essere utilizzati per verificare il livello di concentrazione o il tipo di attività di qualcuno seduto a un tavolo d'ufficio, con lo scopo di aumentarne la produttività, di sorvegliarne i comportamenti.

Dove sta il confine fra l'uso benigno e l'uso che deborda nel controllo, problematico dal punto di vista legale, ma anche etico e morale? Per il momento tutto il discorso sulle neurotecnologie è abbastanza teorico, perché funzionano ed esistono nei laboratori. Arriveranno nei prossimi anni con queste applicazioni professionali specifiche. Cosa succederà quando arriveranno? Per il momento non c'è un quadro legale che definisca cosa può essere fatto e cosa no. Non c'è, perché da sempre il nostro cervello è stato considerato praticamente inviolabile. I nostri pensieri sono i nostri, ed è ancora così. Diventa però necessario iniziare a porsi queste domande. 

C’è un altro aspetto delle neurotecnologie, ed è quello della cosiddetta "augmentation", il fatto di usarle per aumentare le capacità di una persona. E quindi andiamo nella direzione della creazione di superumani. Evidentemente ci sarà chi sarà entusiasta e vorrà farsi aumentare in tutti i modi possibili, e chi sarà più scettico e resisterà. E qui si pongono questioni vertiginose. Se lei è un datore di lavoro e deve assumere una persona, e ha davanti a sé due candidati, uno che rifiuta di farsi aumentare e l'altro che invece è totalmente entusiasta, e ha delle capacità per certi versi (memoria, concentrazione, velocità di pensiero "aumentate" dalla tecnologia) molto superiori a quelle dell'altra persona, chi sceglie? Questo è il tipo di problema di fronte al quale saremo posti nei prossimi anni, quando queste tecnologie cominceranno a entrare nell'uso. Sono questioni complesse, che rimettono in gioco tutti gli schemi che abbiamo per rapporto a chi siamo come umani, a che tipo di relazioni abbiamo con gli altri e con la tecnologia, e con il lavoro.

Pensando agli occhiali dotati di telecamera, con controllo vocale, registrazione dei dati e della posizione, ha ancora senso parlare di dati sensibili?

Esiste in effetti un nuovo filone di occhiali cosiddetti smart. Ne produce Meta (l'azienda che possiede Facebook) in collaborazione con Ray-Ban, Oakley, fondamentalmente con Luxottica. Ne stanno anche sviluppando Snapchat e altri, se lei va su un sito di tecnologia cinese, AliExpress o simili, ne trova per 100 franchi. Sono occhiali che hanno un sistema di trasmissione simile a quello del telefonino, tutto è incorporato nella struttura: una piccola telecamerina da un lato, un microfono o due dall'altro. Hanno dei sistemi di intelligenza artificiale incorporati che permette all'occhiale, che diventa un oggetto connesso e intelligente, di capire gli ordini. Cominciamo a vedere gente che circola nello spazio pubblico e privato indossando questi occhiali, oggetti ai quali non diamo molta attenzione, ma che in realtà sono dei sistemi di sorveglianza. Sono dei sistemi per filmare, fotografare, registrare, all’insaputa di chi è guardato.

L’arrivo e l’adozione di questo tipo di apparecchio opera una trasformazione profonda del nostro modo di vivere insieme. E nessuno di noi ha avuto la possibilità di esprimersi a questo proposito. Non c'è stata  una votazione sulla legittimità o bontà dell’adozione di questi strumenti. Alcuni ingegneri hanno pensato fosse una buona idea, alcuni finanziatori hanno investito dei soldi e adesso questi "occhiali" sono in vendita all'angolo della strada. Chi li indossa si attribuisce il diritto di filmare e registrare quello che gli succede davanti e attorno senza chiedere il permesso. La parte interna delle lenti è un piccolo schermo sul quale la persona che li porta può vedere delle informazioni, sovrapposte all’immagine reale. Meta sta lavorando alla possibilità di attivarvi un sistema di riconoscimento facciale. In pratica, la telecamera filma qualcuno, il sistema di intelligenza artificiale collegato confronta l’immagine con quelle disponibili online, e mostra il nome della persona o altri dati personali sul piccolo schermo, visibile da chi porta gli occhiali ma non da chi è guardato. Passare davanti a qualcuno che li indossa significa non solo essere visto, ma anche essere riconosciuto e identificato.Entriamo in una logica di relazioni interpersonali totalmente nuova, più vicina alla sorveglianza costante. E naturamente queste informazioni (chi è chi, chi è dove, cosa viene detto) finiscono nei sistemi di Meta.

Ho scritto alcuni articoli recentemente in cui dico che questi occhiali sono prodotti e acquistati da sociopatici, cioè da persone che non hanno una valutazione corretta, morale ed etica, di quello che è vivere in società. Meta ha già venduto 7 milioni di paia di occhiali di questo tipo. Cominciamo a vedere delle situazioni veramente molto spiacevoli. Per esempio dei cosiddetti creatori di contenuti che indossano questi occhiali, vanno su una spiaggia, si avvicinano a una ragazza, la filmano guardandola, non hanno una telecamera o un telefono visibile. Iniziano a dialogare, cercano di farle il filo, la ragazza reagisce negativamente, le dicono "guarda, sei una stronza", se ne vanno e 10 minuti dopo pubblicano il video della scena su Instagram, su X o su TikTok, e lei non s’era neanche accorta di essere stata filmata. Casi come questo cominciamo a vederne molti. Si tratta di abusi della relazione con l'altro. È uno dei grandi temi che la tecnologia porta nella nostra società senza vero dibattito né discussione.

Siamo messi molto male sul piano della democrazia a causa di questo sviluppo tecnologico tanto performante. Siamo in poche parole diventati gli schiavi delle nostre tecnologie. Viene un po' da pensare al romanzo Frankenstein o il moderno Prometeo di Mary Shelley, pubblicato nel 1818, dove la creatura ha preso il sopravvento con nuove vesti.

Le grandi aziende tecnologiche che noi utilizziamo tutti i giorni, sono arrivate a un livello di dimensione e di influenza tale da porre veramente un problema di democrazia e di libertà. Queste sono aziende che hanno mezzi finanziari ed economici largamente superiori a quelli di quasi tutti gli stati del mondo. Hanno riserve multimiliardarie, mentre praticamente tutti gli stati sono quasi in bancarotta. Hanno evidentemente una capacità di decisione e di movimento molto più rapida, una dimensione planetaria e non una dimensione nazionale. C'è un vero problema di dimensione di queste aziende, di capacità di attrazione di capitali, della natura delle tecnologie che queste aziende sviluppano: una tecnologia autoritaria, basata sul controllo, la sorveglianza, la raccolta continua di dati personali. E noi ne siamo diventati dipendenti per il nostro funzionare quotidiano, tanto professionale, collettivo, che individuale. Lei immagini un'amministrazione pubblica oggi, a cui venisse tolto l’accesso alle piattaforme, per esempio, di Microsoft o di Google. Si fermerebbe. La stessa cosa potrebbe è vera per le aziende.

Chieda a chiunque dei suoi colleghi di non utilizzare più WhatsApp. La guarderanno come se fosse una cosa totalmente assurda, perché WhatsApp non è più solo una "app", ma è diventata un'infrastruttura di funzionamento collettivo. Le scuole distribuiscono i compiti agli allievi, ci sono i gruppi dei genitori, ci si organizza attraverso WhatsApp per i viaggi, le aziende fanno servizio di vendita e dopo vendita via WhatsApp, i politici discutono, i gruppi di volontari si coordinano via WhatsApp. In certi paesi, vi si può trasferire del denaro. C'è un elemento di dipendenza estremamente importante. 

Inoltre, queste aziende hanno in qualche modo accesso quasi diretto alle nostre emozioni, alle nostre menti: attraverso i social, i chatbot, il tipo di informazioni a cui accediamo attraverso queste piattaforme. Sono informazioni non soltanto filtrate dall'intelligenza artificiale, ma spesso adesso anche generate dall'intelligenza artificiale. Per tutte queste ragioni, trovo molto difficile pensare queste aziende della tecnologia (comprese quelle emergenti, OpenAI, Anthropic, Palantir) come compatibili con la democrazia. Sono aziende che fondamentalmente non sono più compatibili con la democrazia e con la libertà.

So che è un'affermazione che tanta gente prenderà scuotendo la testa dicendo "Ma no, sono soltanto tecnologie!". Non sono soltanto tecnologie, sono dei sistemi, sono delle architetture nelle quali noi viviamo e lavoriamo, e che sono controllate da un pugno di aziende, praticamente quasi tutte americane, quasi tutte controllate da personaggi perlomeno dubbiosi, ai quali non si può veramente dare molta fiducia. Da queste tecnologie noi siamo dipendenti, è un fatto, più lo ignoriamo più approfondiamo questa dipendenza. E ogni dipendenza può diventare coercizione, e sottomissione.