Tempo medio di lettura: 12 minuti

Questo articolo, come spesso accade da queste parti, nasce da un’email che ho ricevuto a seguito della pubblicazione della mia “mappa dell’IA” dove sostanzialmente dico che è statistica. Un lettore mi ha scritto infatti un messaggio che ho particolarmente apprezzato per la sua schiettezza. Era un testo sospeso a metà tra la cortesia del confronto e un comprensibile senso di fastidio. La sua domanda, in fondo, era disarmante nella sua semplicità: “Ma alla fine, cos’è davvero l’IA e come funziona? Faccio fatica a capirlo, perché in rete si trova tutto e il contrario di tutto”.

È un’osservazione che fotografa perfettamente il paradosso del nostro tempo: siamo sommersi da informazioni su uno strumento che usiamo quotidianamente, ma la cui natura rimane avvolta in un fumo di termini tecnici o, peggio, di promesse quasi mistiche. C’è chi la descrive come un oracolo onnisciente e chi come una minaccia esistenziale, lasciando poco spazio alla comprensione meccanica di ciò che abbiamo sotto le dita.

Ho deciso di rispondere pubblicamente a quell’email perché credo che il fastidio del mio lettore sia condiviso da molti. Per chi, come me, cerca sempre un terreno solido su cui poggiare i piedi e preferisce la chiarezza di un ingranaggio alla nebbia di una “scatola nera”, è necessario fare un passo indietro.

Nelle righe che seguono cercherò di smontare il motore dell’IA “standard” — quella che chiamiamo generativa — per mostrarvi che, una volta tolta la vernice del marketing, ciò che resta è un’architettura statistica, logica e matematica tanto potente quanto priva di quella che noi umani chiamiamo, forse troppo frettolosamente, intelligenza.

Le radici: da Ada Lovelace ad Alan Turing

Prima di guardare sotto il cofano, occorre smontare il mito della “novità recente”. L’idea che una macchina potesse manipolare simboli risale alla metà dell’ottocento (per la precisione: 1843) e fu una intuizione di Ada Lovelace. Fu lei la prima a capire che la “macchina analitica” di Charles Babbage non serviva solo a fare calcoli numerici, ma poteva elaborare qualsiasi contenuto seguendo delle regole, ponendo le basi concettuali di quello che oggi chiamiamo software.

Quei semi sono germogliati negli anni ’50 con Alan Turing e la conferenza di Dartmouth, dove il termine “intelligenza artificiale” fu coniato ufficialmente. Se oggi ne parliamo come di una rivoluzione, non è perché l’idea sia nuova, ma perché solo da pochi anni abbiamo finalmente la potenza di calcolo e la massa critica di dati per far girare quegli algoritmi pensati decenni fa.

Non è “intelligenza”, è probabilità (ovvero: il pappagallo stocastico)

Il primo grande malinteso risiede nel nome stesso. Chiamarla “intelligenza” evoca l’immagine di un’entità che comprende, ragiona e prova intenzioni. La realtà è molto più meccanica: l’IA che utilizziamo oggi è, essenzialmente, un motore di previsione statistica, anzi: stocastica.

Nota per una migliore comprensione dell’argomento: statistica e stocastica sono sostanzialmente le due facce della stessa medaglia probabilistica, con la statistica che analizza ciò che è già accaduto mentre la stocastica scommette su ciò che accadrà usando i dadi della probabilità.

Per capire come funziona, mi piace usare l’esempio del “pappagallo stocastico”.

Se entrate in un bel negozio di animali e un pappagallo ben addestrato vi accoglie con un allegro “Buongiorno!”, potreste essere tentati di pensare che sia felice di vedervi o che sappia che ore sono. In realtà, il pappagallo non ha la minima idea di cosa sia un “giorno”, né sa chi siate voi. Ha semplicemente imparato che, quando la porta si apre e appare una figura umana, la sequenza di suoni che produce la ricompensa più probabile è quella specifica vibrazione dell’aria.

L’IA funziona in modo identico, solo su una scala infinitamente più vasta. Non attinge a un pensiero, ma a un calcolo di probabilità.

Quando ponete una domanda a un modello linguistico, il software non sta “cercando la risposta” in un archivio di verità. Sta guardando la vostra frase e chiedendosi: “Data questa sequenza di parole, qual è la parola che la statistica mi dice più probabile subito dopo?”.

Se scrivete “Il gatto è sul…”, il sistema non visualizza un animale domestico. Calcola che, nei miliardi di testi che ha letto durante l’addestramento, dopo quelle quattro parole appare molto spesso “divano”, “tappeto” o “tetto”, mentre non appare quasi mai “acceleratore di particelle”.

Non c’è comprensione del gatto, né del divano. C’è solo una matematica del linguaggio che imita la nostra comunicazione così bene da sembrarci viva. Ma, proprio come il pappagallo che vi saluta senza sapervi riconoscere, l’IA produce simboli, non significati.

Come impara: la mappa dei numeri (i vettori)

Se il “pappagallo stocastico” è il principio, l’addestramento è il metodo. Per permettere a una macchina di calcolare probabilità, dobbiamo prima trasformare il nostro linguaggio in qualcosa che un computer possa masticare: i numeri.

Questo processo avviene attraverso il Machine Learning. Immaginate di dare in pasto a un software una quantità smisurata di testi: libri, articoli di giornale, discussioni sui forum, righe di codice. Il sistema non “legge” come facciamo noi; analizza le relazioni di vicinanza tra le parole.

Per l’IA, ogni parola diventa un punto in uno spazio immenso a migliaia di dimensioni. È quella che i tecnici chiamano vettorizzazione.

In questa enorme “mappa” digitale statistica parole con significati o usi simili finiscono vicine, “cane” e “cucciolo” avranno coordinate matematiche quasi identiche. Parole che hanno relazioni costanti mantengono distanze simili. La distanza statistica che c’è tra “uomo” e “re” è la stessa che il sistema troverà tra “donna” e “regina”.

Quando il mio lettore mi chiede come faccia l’IA a “sapere” le cose, la risposta è molto semplice. Non sa nulla: si limita a navigare in questa mappa di numeri. Se le chiediamo di parlarci di “mele”, il sistema si posiziona sulle coordinate della parola “mela” e guarda quali altri numeri (parole) si trovano nelle immediate vicinanze nel contesto della frase: troverà “frutto”, “mangiare”, “rosso” o “Newton”.

È una geografia del linguaggio. L’addestramento non serve a insegnare la verità, ma a costruire questa mappa in modo che sia la più precisa possibile. Più testi legge, più la mappa diventa dettagliata, permettendo al sistema di simulare una conoscenza che, in realtà, è solo una raffinatissima geometria della probabilità.

L’attenzione: come l’IA non perde il filo (il transformer)

Tuttavia, se l’IA fosse solo una mappa di parole e una statistica di base, farebbe molta fatica a scrivere un testo lungo e coerente. Fino a pochi anni fa, i computer leggevano i testi in modo lineare, una parola dopo l’altra. Il problema era che, arrivati alla fine di una frase lunga, il sistema “dimenticava” l’inizio.

La rivoluzione che ha cambiato tutto si chiama transformer, un’architettura introdotta dai ricercatori di Google nel 2017. Il suo segreto è il meccanismo di “attenzione”.

Per capire come funziona, pensate a come leggiamo noi umani. Quando incontrate la parola “esso” in un paragrafo, i vostri occhi e la vostra mente non guardano solo quella parola; istantaneamente “attivano” un collegamento con il soggetto di cui si parlava tre righe sopra.

L’IA oggi fa esattamente questo: non legge più una parola alla volta, ma guarda l’intera sequenza contemporaneamente su base, ancora una volta, statistica.

Facciamo un esempio pratico. Considerate questa frase:

“L’amministratore ha consegnato le chiavi al proprietario perché era arrivato in ritardo.”

Chi era in ritardo? L’amministratore. Ma se scrivessi:

“L’amministratore ha consegnato le chiavi al proprietario perché erano state duplicate.”

Cosa è stato duplicato? Le chiavi.

Il meccanismo di “attenzione” permette all’IA di calcolare matematicamente quali parole della frase sono più importanti per dare un senso a quella che sta elaborando in quel momento. Il sistema crea dei “ponti” numerici tra “era” e “amministratore”, oppure tra “erano” e “chiavi”.

È questa capacità di pesare le relazioni tra i termini a dare all’IA quella parvenza di logica. Non sta ragionando sul ritardo o sulle chiavi, sta solo applicando un’attenzione matematica selettiva per decidere quale sia il prossimo pezzo di puzzle (la prossima parola) più coerente da incastrare nel discorso.

Perché sbaglia: il paradosso delle “allucinazioni”

Arriviamo al punto che probabilmente ha generato più fastidio nel mio lettore: l’inaffidabilità. Se l’IA è così sofisticata, perché a volte inventa fatti, date o leggi mai esistite con una sicurezza incrollabile?

Il termine tecnico è allucinazione, ma la spiegazione è puramente statstica. Ricordate: l’IA non interroga un database di verità, ma segue una scia di probabilità.

Immaginate di chiedere all’IA la biografia di un personaggio minore. Il sistema inizia a generare parole seguendo la mappa dei numeri. Se a un certo punto la probabilità statistica di una data (es. “1974”) è leggermente superiore a quella corretta (“1972”), l’IA sceglierà il 1974. Da quel momento in poi, tutto il resto del testo verrà costruito per essere statisticamente coerente con quell’errore iniziale.

L’IA non “sa” di mentire, perché non “sa” nemmeno di dire la verità. Sta semplicemente completando il disegno un pixel alla volta. Poiché è addestrata per essere utile e fluida, preferirà quasi sempre dare una risposta plausibile (ma falsa) piuttosto che ammettere di non sapere, a meno che non venga istruita diversamente.

È uno strumento che eccelle nella forma (scrivere bene, riassumere, tradurre), ma è strutturalmente fragile sulla sostanza.

La dieta dell’algoritmo: garbage in, garbage out

C’è un ultimo aspetto che spiega perché l’IA possa essere nel contempo tremendamente brillante o terribilmente mediocre: la qualità del materiale usato per addestrarla. Nel mondo dell’informatica esiste un principio aureo chiamato GIGO, acronimo di Garbage In, Garbage Out (spazzatura in ingresso, spazzatura in uscita).

Se addestriamo un modello dandogli in pasto testi scientifici, letteratura classica e giornalismo d’inchiesta, la sua “mappa dei numeri” sarà precisa e le sue probabilità statistiche rifletteranno un linguaggio colto e strutturato. Se, al contrario, lo nutriamo con commenti d’odio, bufale, testi sgrammaticati o pregiudizi presi dal web, il sistema non farà altro che restituirci quegli stessi schemi.

L’IA non ha un filtro morale o logico per distinguere una verità scientifica da una teoria del complotto. Se nella sua base dati una certa associazione di parole è molto frequente (anche se falsa), il sistema la considererà “probabile” e quindi corretta da usare.

Il problema oggi è che, con l’esplosione dei contenuti generati dalle IA stesse che finiscono online, i nuovi modelli rischiano di essere addestrati su testi prodotti da vecchie versioni di IA. È un circolo vizioso: se il pappagallo inizia ad ascoltare solo altri pappagalli, il linguaggio si impoverisce, gli errori si cristallizzano e la “spazzatura” aumenta.

Per questo la qualità del dato umano di partenza rimane l’unico vero ancoraggio. Senza una fonte solida e verificata all’origine, l’IA non è altro che un gigantesco amplificatore di tutto ciò che di buono — o di pessimo — abbiamo riversato in rete.

Non un singolo strumento, ma una cassetta degli attrezzi

Un altro errore comune, che alimenta la confusione e la frustrazione di un non addetto ai lavori, è pensare all’IA come a un blocco unico e monolitico. In realtà, l’IA non è “un” attrezzo, ma un’intera cassetta degli attrezzi.

Quella di cui abbiamo parlato finora — l’IA generativa che scrive testi — è solo uno dei tanti strumenti disponibili. Esistono modelli specializzati esclusivamente nella visione artificiale, altri dedicati alla manutenzione predittiva industriale, altri ancora che si occupano solo di analisi dei dati o di traduzione pura.

Il segreto per non restare infastiditi è capire che ogni lavoro richiede l’attrezzo giusto:

  • Il pennello: se dovete generare un’immagine, userete un modello di diffusione.
  • Il calibro: se dovete analizzare dati scientifici, userete un’IA discriminativa o statistica classica.
  • La penna: se dovete riassumere o correggere la sintassi, userete un modello linguistico (LLM).

Usare un modello linguistico per fare calcoli matematici complessi o per cercare verità storiche assolute è come cercare di piantare un chiodo usando il manico di un cacciavite: si fa fatica, si ottiene un risultato mediocre e, alla fine, ci si arrabbia con l’attrezzo. La vera padronanza tecnologica sta nel sapere quale cassetto aprire per il compito che abbiamo davanti.

Conclusione: uno strumento, non un oracolo

Tornando all’email del mio lettore, la risposta alla sua frustrazione sta tutta qui: l’IA non è un’entità magica, né tantomeno una mente pensante, ma una monumentale opera di ingegneria statistica. È un’estensione della nostra capacità di elaborare il linguaggio, uno strumento utile per operazioni tecniche, come trovare refusi o correggere bug sintattici, ma privo di una vera bussola interiore.

Chi cerca in questi sistemi un “terreno solido” rimarrà inevitabilmente deluso. Mentre l’essere umano cerca di piantare radici profonde nel significato e nella stabilità delle cose, l’IA fluttua sulla superficie delle parole, calcolando con velocità sovrumana dove cadrà la prossima goccia di inchiostro digitale.

Capire che dietro lo schermo c’è un calcolatore di probabilità — un “pappagallo” alimentato da una geometria di numeri — non deve sminuire la tecnologia, ma deve restituirci il controllo. Non siamo di fronte a un oracolo a cui delegare il pensiero, ma a un assistente molto veloce e un po’ presuntuoso che ha bisogno di una guida umana per non perdersi nel rumore di fondo.

Su questo sito, la scelta rimane quella di sempre: delegare all’algoritmo solo la “manovalanza” sintattica, mantenendo la struttura, i collegamenti e il senso profondamente ancorati a un’autorìa umana. Perché, alla fine, solo un essere umano può distinguere se quello che sta scrivendo ha un valore reale o è solo la parola statisticamente più probabile.