Riflessioni su una intervista a Yoshua Bengio
di Cosimo Prantera
A Giugno del 2025 la BBC ha intervistato Yoshua Bengio sui rischi impliciti allo sviluppo non controllato dell’intelligenza artificiale (AI).
Bengio è uno dei maggiori esperti mondiali coinvolti nello sviluppo della AI ed ha vinto il premio Turing, che è considerato il “Nobel prize of Computing”.
Il suo allarme per una evoluzione non controllata della AI, in base a queste premesse, deve essere preso molto sul serio.
Quello che segue è il sunto de quello che l’intervista riporta.
Nella parte successiva farò un’analisi più approfondita per capire quale sia il reale pericolo a cui Bengio accenna.
“L’intelligenza artificiale consente ai computer di operare in un modo che può sembrare umano, utilizzando programmi che apprendono enormi quantità di dati e seguono istruzioni complesse. Grandi aziende tecnologiche e governi hanno investito miliardi di dollari nello sviluppo dell’AI, grazie al suo potenziale nell’aumentare l’efficienza, ridurre i costi e supportare l’innovazione.
Bengio ritiene che vi siano rischi nei modelli di AI che tentano di imitare il comportamento umano con tutti i suoi difetti. Ad esempio, recenti esperimenti hanno dimostrato come alcuni modelli di intelligenza artificiale stiano sviluppando la capacità di ingannare e persino di usare interventi, simili al ricatto, sugli esseri umani, nel tentativo di auto-preservarsi.
Bengio di conseguenza, sostiene che l’intelligenza artificiale debba essere sicura, scientifica e impegnata a comprendere gli esseri umani senza copiarli.”
L’Analisi
Gli attuali fattori tecnici limitanti per l’IA sono la computazione, il dataset e la progettazione degli algoritmi.
Ma, al di là di superabili limiti tecnici, il problema più incerto nel futuro della AI, che coinvolge, filosofi, tecnici e scienziati cognitivi è capire quali possano essere i limiti epistemici di una super-intelligenza. La domanda che gli specialisti si pongono è se una super-intelligenza possa davvero superare i limiti della conoscenza umana, pur essendo stata addestrata su dati umani. E se sì, come questo possa avvenire.
Il timore di alcuni ricercatori come Yoshua Bengio è che una super-intelligenza, non si limiti a riorganizzare il proprio data set, che è bene ricordare è composto da dati attinti da Internet ed ovviamente prodotti dall’ intelligenza umana, ma che possa generare una conoscenza che va oltre la nostra capacità di comprensione e, potenzialmente, di controllo.
Alcune doti dell’AI potrebbero generare conoscenza attraverso il riconoscimento di nuovi patterns nel suo dataset e, quindi, di formulare nuove ipotesi scientifiche.
Un ulteriore dote di una AI super-intelligente potrebbe essere quella di arrivare a conclusioni controintuitive sfuggendo ai bias ai quali il nostro cervello “bayesiano” inevitabilmente ci vincola.
Questa evoluta AI, inoltre, potrebbe autonomamente migliorare i suoi algoritmi di apprendimento ed allargare i suoi limiti epistemici, superando quindi i confini della conoscenza umana. Inoltre la sua enorme capacità di calcolo potrebbe creare e sperimentare innumerevoli modelli alla ricerca di soluzioni originali per differenti obiettivi di ricerca come ad esempio nel campo medico, economico, sociale ed altri.
L’eventuale allargamento dei limiti epistemici di una AI potrebbe non permettere più il controllo di come i risultati proposti siano stati ottenuti e quindi di non poter più controllarne le conseguenze. Questo evento significherebbe la perdita completa del nostro controllo intellettuale.
I timori di Bengio ed altri in conclusione riguardano la possibilità che una evoluta AI possa trascendere le nostre capacità conoscitive.
Ma tutto questo sarebbe realmente possibile? La conseguenza di questa ipotesi è un salto concettuale non da poco, cioè che questa super-intelligenza acquisisca la dote della creatività, cioè la capacità di produrre nuove spiegazioni!
Tuttavia ci sono ostacoli concettuali ad una nuova conoscenza (definiamola un “abito nuovo dell’imperatore” per citare Roger Penrose).
Il nostro sistema cognitivo, da cui l’AI ricava il suo dataset e su esso si addestra, opera all’interno di un contesto epistemico, che si configura come un “blind box”.
In questa scatola sono presenti le conoscenze, e tutte le informazioni per acquisirne delle nuove, che noi umani siamo in grado di raccogliere.
Questa scatola contiene la nostra verità, una verità antropomorfa, che abbiamo costruito con le nostre percezioni ed i nostri ragionamenti.
Non possiamo uscire dalla scatola per guardarla dal di fuori, perché per noi la scatola è tutto ciò che esiste. La realtà vera, che è al di fuori della scatola, non solo è inconoscibile, ma anche scientificamente inintelligibile.
Questa visione della realtà, che potrebbe essere definita “fisicalismo scientifico” sarebbe la conseguenza del nostro sistema di conoscenza attraverso una serie di scoperte su come la realtà sia in sé.
Questa processo scientifico è computazionale ed è proprio questa caratteristica che fa dire a coloro che credono nella AI forte che, se il mondo fisico in cui viviamo è numero, noi siamo in grado di creare algoritmi che lo riproducano. Questa affermazione è una conseguenza del principio di Turing “esiste un calcolatore astratto universale il cui repertorio comprende qualsiasi computazione da qualsiasi oggetto fisicamente possibile”
Questa affermazione sulle capacità illimitate della computabilità, e sulla esistenza soltanto di un mondo fisico riconducibile ad algoritmi, non è condiviso da molti. Ad esempio, i fisici teorici come Roger Penrose, nella sua critica al concetto che nulla esiste al di fuori dei numeri, ha suggerito che c’è qualcosa nella coscienza umana che va oltre la computazione formale; per lui una dote della coscienza e’ di “vedere” verità che sfuggono agli algoritmi.
Inoltre un ‘ analisi approfondita del fisico David Deutsch nel descrivere gli “ambienti cantgotu” (luoghi simulati nei quali non si può andare) suggerisce che, anche con capacità computazionali illimitate (come quelle di un ipotetico computer quantistico universale), vi è un limite assoluto alle capacità computazionali.
Insomma i due corni del problema sono chiari. Anche se l’AI ci superasse in intelligenza e calcolo, ci sarebbero comunque limiti fisici alle sue possibilità di computazione.
O forse no, e il no, secondo Bengio, potrebbe celare il pericolo. Vedremo tra un po’ il perché’.
Ma nel frattempo, in attesa di straordinari e pericolosi sviluppi, l’AI fa i conti con ostacoli della fisica dai quali necessariamente subisce le leggi.
Ad esempio, è nota la incapacità di fare previsioni meteorologiche attendibili a lungo termine. Questa incapacità, che si può estendere a molte altre previsioni, è la conseguenza della teoria del caos.
L’effetto del caos affligge noi ed anche l’attuale intelligenza artificiale. L’incapacità’ di predire il tempo a medio-termine segnala un probabile ostacolo anche per una super-intelligenza che, non sappiamo se sara’ in grado di prevedere il ruolo del battito delle ali della farfalla. L’esempio di Lorenz ci mostra come possa nascere il caos per l’intervento di infinitesime piccole cause confluenti fra loro. Previsioni corrette a lungo termine in un mondo regolato dal caos sono difficilmente fattibili.
Tuttavia, già in un vicino molto prossimo una AI, pur essendo condizionata dai limiti epistemici umani, potrebbe con accresciute capacità computazionali produrre un numero elevatissimo di modelli predittivi sempre più accurati e inoltre potrebbe suggerire strategie per la gestione dell’incertezza che il caos provoca.
Ad esempio potrebbe analizzare tutte le possibilità che si aprono ai due protagonisti del film “Sliding Doors” o controllare i fattori che condizionano i più probabili scenari che l’apertura delle porte scorrevoli potrà determinare.
In questo modo l’AI, governando sempre più il ruolo della probabilità’, tenderebbe a trasformare l’universo ad essere sempre più deterministico, riesumando, in versione digitale, l’obsoleto diavoletto di Laplace.
Ma la realtà che noi conosciamo non è deterministica come ci dice la meccanica quantistica. L’indeterminazione, per la meccanica quantistica, non è una conseguenza dei limiti della computazione ma è una proprietà intrinseca della realtà del nostro mondo microscopico.
Quindi ho ora tracciato una netta linea di demarcazione: l’AI sarà controllabile se rimarrà contenuta nei nostri limiti epistemici, limiti che abbiamo fina ad ora esplorato. Potrà trovare soluzioni nuove per noi, creerà nuovi modelli interpretativi nei vari campi dove la indirizzeremo e lavorerà in simbiosi con l’intelligenza umana.
In questo primo scenario l’unico rischio che potremmo correre verra’ soltanto dalla gestione umana.
Oppure questi limiti saranno superati da una super-intelligenza come le preoccupazioni di Bengio lasciano supporre.
Una super intelligenza e’ infatti una estrapolazione logica delle attuali tendenze nello sviluppo dell’AI, sebbene debba essere immaginata con un salto qualitativo da una intelligenza visionaria.
Ma quali sono i processi attraverso i quali questo inquietante scenario si potrebbe attuare?
E’ complesso pensare ad una super-intelligenza che, utilizzando la conoscenza del nostro linguaggio e avendo avuto l’addestramento con i nostri dati possa andare oltre questi confini cognitivi. Se questo potrà avvenire i timori di Bengio diventerebbero giustificati.
Perché questo avvenga dobbiamo immaginare una AI super-intelligente che travalichi il nostro modo di pensare e crei nuovi linguaggi per comunicare fra loro e scambiarsi informazioni. In realtà vi e’ stata gia’ un esempio della sua capacita’ a creare sistemi di comunicazione per noi indecifrabili.
Dobbiamo considerare che la realta’ di una AI che simula la nostra realtà, non e’ stata costruita attraverso una esperienza sensoriale come la nostra, ma e’ stata ricostruita attraverso flussi di informazioni e processi algoritmici.
L’aspetto comunque piu’ inquietante potrebbe essere che l’AI, scoprendo nuove leggi della fisica o nuove strutture matematiche estranee al nostro universo concettuale, potrebbe aver bisogno di creare un linguaggio per descriverle. Creando una nuova sintassi e semantica per esprimere questi concetti al di fuori della nostra episteme.
Una super-intelligenza potrebbe avere il solo obiettivo di migliorare esponenzialmente la sua capacità computazionale e questo processo di miglioramento potrebbe portare a scoprire una nuova fisica, un nuovo linguaggio matematico e, quindi, a discostarsi sempre piu’ dalla nostra conoscenza e dal nostro pensiero antropomorfico utilizzando questi nuovi strumenti cognitivi. Avremmo a che fare per la prima volta con una intelligenza aliena. E gia’ abbiamo sperimentato, quando e’ stata inviata una navicella verso gli esopianeti per comunicare con una eventuale intelligenza extraterrestre, quanto sia difficile cercare un mezzo per comunicare quando l’altro potrebbe conoscere simboli, forme geometriche, matematica e logica completamente differente dalla nostra .Una super-intelligenza potrebbe, inoltre, travalicare il suo data-set iniziale generando nuovi dati attraverso simulazioni progressive orientate a risolvere problemi ed a comporre modelli interpretativi. Per noi essere umani un tale stravolgimento del comportamento della AI ostacolerebbe il nostro controllo sull’allineamento degli obiettivi della AI con quelli da noi programmati e potrebbe rendere incomprensibili le sue azioni logiche
In conclusione se noi siamo racchiusi nella “blind box” che, come ho scritto prima contiene anche l’AI, insieme a tutto quello che e’ nato da noi, la nuova intelligenza potrebbe uscire fuori dalla scatola acquisendo una conoscenza che non abbiamo e mai potremmo avere.
Ed e’ assolutamente privo di importanza che, come suggerisce il brillante storico Yuval HararI, questa nuova AI dovrà diventare senziente e sviluppare coscienza, sentimenti ed emozioni. Un certo livello di consapevolezza questa ipotetica super-intelligenza e’ probabile che l’acquisirà ma ancora una volta e’ la nostra visione antropomorfica a considerarla necessaria. Un mondo di numeri ed algoritmi potrebbe non averne nessuna necessità.
Luciano Floridi recentemente, parlando di questi rischi, concludeva “questo lasciamolo ad Hollywood”.
Oggi siamo ragionevolmente certi che l’attuale AI non può sfuggire al controllo dell’operatore umano e, se anche ne sfuggisse, non potrebbe diventare capace di una sua conoscenza propria. Come abbiamo visto esistono ragionevoli limiti fisici ed epistemici al concretizzarsi di questa ipotesi.
E’ assai probabile ed auspicabile che la super-intelligenza rimanga relegata tra le tante fantasticherie del pensiero magico dei genietti della Silicon Valley insieme ai tanti passati fallimenti che sono stati partoriti dalla” tecnologia onirica”.
