Gianluca Pennino: “L’AI potrà aiutarci a superare le sfide globali, ma non nel modo in cui spesso ci viene raccontato”

L‘intelligenza artificiale è ormai parte della nostra quotidianità, ma siamo davvero consapevoli di come funziona e delle implicazioni che porta con sé? A interrogarsi su questi temi è Gianluca Pennino, innovation strategist e autore di una tetralogia dedicata all’era algoritmica.

Gianluca, quattro libri pubblicati fin qui sull’argomento di cui le chiedo di parlarcene per sommi capi, ma ho la sensazione che abbia ancora tanto da dire. È effettivamente così?

Sì, ne ho ancora. Anzi, temo di averne sempre di più, che è un problema.

I quattro libri sono nati come quattro angolazioni dello stesso oggetto, non come una collana progettata a tavolino. Il primo, L’intelligenza oltre il biologico, è il più filosofico: prova a chiedersi che cosa sia davvero l’intelligenza di una macchina, senza dare per scontato che debba assomigliare alla nostra.

Il secondo, Dalla fabbrica all’algoritmo, scende sul terreno del lavoro: che cosa accade quando l’algoritmo prende il posto del caporeparto, organizza i tempi, assegna i compiti e misura le prestazioni.

Il terzo, L’umano invisibile, è forse quello che mi sta più a cuore sul piano professionale, perché racconta tutte quelle trasformazioni tecnologiche che falliscono per una ragione apparentemente banale: nessuno ha guardato le persone.

Il quarto, Il mago meccanico, è il più divulgativo: quasi un manuale di autodifesa per chi usa questi strumenti ogni giorno.

Il filo, in fondo, è uno solo: la tentazione di smettere di pensare perché la macchina sembra farlo al posto nostro.

Se abbia ancora qualcosa da dire? Sì. Sto lavorando a un quinto libro e, questa volta, il percorso si fa più singolare: torno indietro, alla Scolastica, al modo in cui i medievali costruivano un’argomentazione per obiezioni e risposte, il loro sed contra.

C’è poi una figura che mi ha letteralmente stregato: padre Roberto Busa, il gesuita che nel 1949 convinse IBM a indicizzare, parola per parola, l’intera opera di Tommaso d’Aquino. Undici milioni di parole elaborate attraverso schede perforate e circa trent’anni di lavoro.

È anche lì che nasce il pensiero algoritmico applicato al linguaggio. Ma con una differenza che dice tutto: Busa non voleva che la macchina sembrasse sapere. Voleva che servisse a cercare il vero.

Trent’anni per costruire una concordanza. Il contrario esatto della fretta di oggi.

In un suo recente articolo ho letto: la nostra epoca ha smesso di distinguere la verità dalla verosimiglianza. Detto in altre parole?

Significa che abbiamo smesso di chiederci se una cosa sia vera e ci accontentiamo che suoni vera. Sono due cose molto diverse, e la questione è tutta lì.

Le faccio l’esempio che uso più spesso. Un testimone in tribunale cerca nella propria memoria qualcosa che è realmente accaduto. Può ricordare male, può confondersi, può persino sbagliare, ma sta comunque puntando alla verità.

Un attore che interpreta un testimone, invece, non deve ricordare nulla. Deve soltanto risultare credibile. La sua battuta funziona se il pubblico gli crede.

L’intelligenza artificiale generativa è l’attore, non il testimone. Non cerca il vero: cerca il verosimile. E riesce a produrlo con una precisione che nessun essere umano potrebbe eguagliare alla stessa velocità.

Il problema, però, non è soltanto la macchina. Siamo noi. Quando qualcosa è scritto bene, con sicurezza e con il tono giusto, il nostro cervello tende a smettere di controllare. Ci fidiamo del tono.

È un riflesso antico: chi parla con sicurezza, di solito, sa quello che dice. Con questi sistemi, però, il riflesso ci frega, perché la sicurezza è simulata perfettamente e la conoscenza sottostante può non esserci.

Non è semplicemente un difetto destinato a essere corretto in una versione futura. È il principio stesso del loro funzionamento: generano la sequenza di parole statisticamente più plausibile, non necessariamente quella più vera.

A volte le due cose coincidono. A volte no. Capire quando coincidano è la parte difficile.

Cosa pensa dell’esperimento Emma e di quanto accaduto?

Per me quella storia ha una doppia dimensione.

La mia quarta figlia si chiama Emma e ha dodici anni: l’età esatta in cui un errore commesso davanti agli altri può bruciare terribilmente e il giudizio della folla rischia di pesare più della verità che si ha di sé. Così, mentre mezzo Paese digitale rideva della macchina Emma, io pensavo a lei.

È una coincidenza, ma illuminante.

Veniamo alla macchina. Molti hanno riso perché sosteneva che un chilo di piombo pesasse più di un chilo di piume, perché sbagliava operazioni elementari o perché dava indicazioni che qualunque sistema serio si sarebbe rifiutato di dare.

In Italia, poi, esiste una specie di gusto liturgico nel dileggiare chi prova a costruire qualcosa. Ma il dileggio è la risposta più comoda, e le risposte comode raramente spiegano qualcosa.

Il punto è che Emma era troppo piccola per riuscire a mentire bene. Aveva circa 550 milioni di parametri, contro i molti miliardi dei modelli più avanzati. Proprio per questo è stata, involontariamente, preziosa: era oscenamente onesta.

Non per virtù, ma perché non aveva la potenza per mascherare i propri limiti. Ha mostrato quasi senza veli una meccanica che nei modelli più grandi rimane invece ben vestita.

La differenza è soprattutto di scala, non di paradigma. La logica generativa di fondo è la stessa; i modelli più grandi sono semplicemente abbastanza potenti da nascondere meglio le cuciture.

Così ridiamo di Emma quando confonde il piombo con le piume, mentre ci affidiamo ciecamente a sistemi molto più sofisticati, capaci a volte dello stesso errore, ma con molta più eleganza. Giudichiamo la forma e dimentichiamo la sostanza.

C’è poi la parola che ha fatto il cortocircuito: “sovranità”. L’intento è nobile, e chi lo irride sbaglia bersaglio. Ma la sovranità tecnologica non è uno slogan da schermata di accesso. È qualcosa di lento, che si accumula in silenzio per anni prima di poter essere proclamato.

Il peccato di Emma non è stato essere un prototipo: all’inizio, tutto è un prototipo. Il problema è che è stata presentata come una fortezza mentre era ancora un cantiere.

È stata trattata male due volte: da chi l’ha esibita troppo presto e da chi si è affrettato a deriderla. Ma la responsabilità più grave è dei primi, perché è la responsabilità di chi sapeva.

Lei non fa mistero del fenomeno del ghost work, descrivendolo come un esercito invisibile di lavoratori sottopagati che “smaschera l’illusione di un’IA autonoma”. Perché l’industria tecnologica tende a nascondere questa componente umana e come possiamo ridare dignità a questi lavoratori?

Perché l’illusione funziona soltanto finché il lavoro umano resta nascosto.

Se sapessimo che dietro molte risposte apparentemente automatiche ci sono persone, magari a Nairobi o a Manila, che hanno classificato milioni di immagini, corretto testi e moderato contenuti per pochi centesimi a operazione, la formula “intelligenza artificiale” perderebbe una parte della propria magia.

E la magia vende.

Non è un incidente: è una componente strutturale del sistema. Amazon ha chiamato la propria piattaforma di microlavoro Mechanical Turk, il Turco Meccanico. Nel Settecento il Turco era un falso automa capace di giocare a scacchi: sembrava una macchina, ma al suo interno era nascosto un uomo vero.

Trecento anni dopo riproduciamo lo stesso meccanismo, e chiamiamo automazione ciò che, in molti casi, è lavoro umano reso invisibile.

Questi lavoratori addestrano i sistemi, classificano i dati, correggono gli errori e moderano per ore immagini e contenuti violenti. Spesso sono donne, spesso vivono nel Sud globale, spesso portano i segni di ciò che sono costrette a guardare. I loro compensi possono scendere sotto i due dollari l’ora, e quasi mai ricevono una quota proporzionata del valore che creano.

Come si restituisce loro dignità? Non con la carità.

Prima di tutto rendendoli visibili, perché finché non li nominiamo è come se non esistessero. Poi garantendo compensi equi, tutele e standard verificabili, come quelli del progetto Fairwork dell’Università di Oxford, che valuta le piattaforme su paga, condizioni e tutele reali. E infine riconoscendo che i dati e le classificazioni che producono non sono una materia prima gratuita da estrarre, ma una parte sostanziale del valore industriale dell’intelligenza artificiale.

Non esiste un’intelligenza artificiale davvero autonoma. Esiste una quantità enorme di intelligenza umana che la costruisce, la corregge e la tiene in piedi.

Solo che abbiamo deciso di non guardarla.

Insomma, l’AI potrà aiutarci a superare le sfide globali?

Sì, ma non nel modo in cui spesso ci viene raccontato.

L’intelligenza artificiale viene presentata come un oracolo: le poniamo la domanda giusta e lei ci offre la soluzione al cambiamento climatico, alle pandemie o alla fame nel mondo. Non funziona così, e forse è un bene.

Per affrontare problemi che richiedono verità, responsabilità e scelte politiche non basta uno strumento capace di produrre risposte plausibili.

L’AI è invece potentissima come amplificatore. Può analizzare quantità di dati che nessun cervello umano riuscirebbe a gestire, individuare regolarità dove noi vediamo solo rumore, esplorare possibilità che non avremmo il tempo di considerare.

Nella ricerca farmaceutica, nello studio dei materiali, nella modellazione climatica, sta già rendendo possibili cose che fino a pochi anni fa sarebbero sembrate impensabili.

La parola giusta, però, è “cooperazione”. E cooperazione significa qualcosa che spesso si fraintende. Non significa che la macchina debba diventare come noi, né che noi dobbiamo diventare come lei. Significa esattamente il contrario: dobbiamo restare diversi.

L’intelligenza artificiale ci è utile proprio perché opera in un modo che non coincide con il nostro. Se convergesse del tutto verso il pensiero umano, avremmo soltanto una brutta copia di un cervello umano: più veloce, più sicura di sé, e priva delle nostre esitazioni.

Ed è probabilmente l’ultima cosa di cui il mondo ha bisogno.

La sfida vera non è costruire una macchina che ci assomigli. È imparare a lavorare con un’intelligenza che non ci assomiglia affatto, senza delegarle quella parte che deve restare nostra: decidere che cosa conta.

E chi ci aiuterà nella sfida dell’AI?

Noi. Non c’è nessun altro in arrivo.

Ci si aspetterebbe che rispondessi: gli esperti, i regolatori, magari un’altra intelligenza artificiale incaricata di controllare la prima. Servono tutti, ci mancherebbe. Ma la difesa vera è più modesta e, insieme, più difficile: non smettere di pensare.

La minaccia che mi preoccupa di più non è la macchina che pensa. È l’essere umano che smette di farlo.

È l’essere umano che delega il giudizio perché è più comodo; che accetta una risposta pronta senza chiedersi da dove arrivi, su quali dati si fondi, quale interesse possa incorporare.

Questo mi preoccupa molto più di qualsiasi scenario da film su macchine diventate improvvisamente coscienti.

Ad aiutarci sarà, allora, tutto ciò che tiene acceso il pensiero critico. La scuola, prima di tutto, purché abbia il coraggio di insegnare ai ragazzi a usare questi strumenti sapendo che cosa sono, invece di limitarsi a vietarli o, all’estremo opposto, ad adorarli.

Perché ciò che auguro alle persone è lo stesso che auguro alle cose che costruiamo: che imparino a essere vere prima ancora che plausibili.

È l’esatto contrario di ciò che il nostro tempo sembra insegnarci.

E non conosco scorciatoie.