TRUMP E MUSK : I RISCHI DELLA TECNOCRAZIA

Una rivisitazione del conflitto tra scienza, tecnologia ed umanesimo.

In due parti

Un recente articolo del Guardian (https://www.theguardian.com/commentisfree/2024/nov/11/a-new-era-dawns-americas-tech-bros-now-strut-their-stuff-in-the-corridors-of-power) commenta in modo molto preoccupante il recente successo di Trump alle elezioni americane.

Ma per me e’ stato, piu’ preoccupante dello scritto, la fotografia che affiancava Trump ed Elon

Musk a simboleggiare il matrimonio tra politica e tecnocrazia.

Dopo aver letto l’articolo, quasi di getto ho scritto una email ad un gruppo composito di amici per esprimere questa mia preoccupazione:

“Ho cominciato a pensare a tutto cio’, che va molto oltre Trump e Musk, quando ho letto la dichiarazione di qualche filosofo che questa antica disciplina non esisteva piu’ e che rimaneva solo la filosofia della scienza.

Per chi come qualcuno di noi ha fatto bene o male un po’ di scienza, ma che comunque ha visto e vissuto la propria vita con i ristretti paraocchi della scienza, e’ tempo di riacquisire il concetto che la vita e’ anche altrove, che l’uomo ha costruito la propra esistenza anche su altri valori, che ha creato cattedrali e poesie, ha costruito pensieri e fantasie e molte altre cose che sono fuori della scienza perche’ incomputabili.

Potremmo rindirizzare alla tecnologia la poesia di Keats contro Newton e la scienza che accusava di aver ridotto ad un prisma la immagine poetica dell’arcobaleno. La tecnologia, che e’ figlia minore della scienza, diffusa ormai universalmente cementa questa distinzione e affievolisce il bisogno di sognare . E’ necessario reagire contro il concetto strisciante che al di la della conoscenza scientifica tutto il resto e’ nulla.

Non e’ che mi preoccupi l’elezione di Trump ma che a fianco a lui, piu’ ricchi e spregiudicati di lui, piu’ giovani ed intelligenti di lui si sia schierata una tecnocrazia amorale, senza limiti se non l’evoluzione incontrollata, e che questa tecne’ subdolamente sia entrata nelle nostre vite senza possibilita’ di tornare indietro. Per chi pensa che questa sia una mia esagerazione vi prego di leggere quale e’ il pensiero di (vedi https://it.wikipedia.org/wiki/Raymond_Kurzweil) Raymond Kurzweil uno dei fondatori del transumanesimo al quale Elon Musk ed altri tecnocrati si ispirano”.

Dopo aver inviato questa email ho riflettuto sulla mia viscerale preoccupazione e l’ho trasformata in una critica piu’ articolata alla quale, spero, qualcuno di voi lettori avra’ voglia di replicare

L’articolo citava la “technology mudslide hypothesis” un concetto elaborato da Clayton Christensen professore alla “Harvard Business School”, che puo’ riassumersi brevemente cosi. Chi non manterra’ il passo con l’evoluzione tecnologica, anche se si tratta di colossi come, ad esempio, la IBM, andra’ incontro ad una catastrofe. Quindi la conseguenza implicita della ipotesi e’ che occorre evolversi tecnologicamente sempre di piu’.

Ma fino a dove? Dove ci portera’ questa concitata corsa nel futuro?

Questa possibile frana e’ diventata una terribile minaccia con la rapida evoluzione della tecnologia e l’incontenibile sviluppo della Intelligenza Artificiale (AI).

Purtroppo quello che Hollywood aveva paventato da molti anni con film come Terminator, Blade Runner e molti altri si sta avverando. Ma non, come accadeva in quei film, dove era l’AI a prendere

coscienza di se e quindi a minacciare l’umanità, ma e’ l’uomo ora a minacciarla. Cosa e’ cambiato in breve tempo? E’ questa evoluzione inevitabile?

Vorrei iniziare da un non felice incontro tra scienza, tecnologia e discipline umanistiche, incontro che ha avuto nella storia umana fasi diverse. Per un lungo periodo le “humanities” hanno dominato il campo. Ancora nella prima meta’ del 900, specie in Italia, dominavano filosofie idealistiche e la previlegiata definizione di intellettuale era riservata soltanto ai cultori di queste discipline.

Questa distinzione tra le due categorie non e’ stata, tuttavia, mai netta nella pratica. Spesso filosofi di alto ingegno hanno sconfinato nella scienza, cosi’ come, oggi in particolare, pochi sono gli scienziati che non abbiano fatto incursioni e formulato interpretazioni filosofiche.

Ma come possiamo collocare la categoria dei cibernetici, cioe’ di quei tecnici che studiano e realizzano strumenti capaci di imitare il cervello degli umani? Il termine e, quindi, la categoria sono recenti, risalgono infatti a subito dopo la fine della seconda guerra mondiale. Ma e’ giusto specificare che la storia e’ piena di tentativi di imitare molte delle funzioni e capacita’ umane con marchingegni diversi e, talora, molto ingegnosi. Se dobbiamo attribuire ai cibernetici un progetto od una ideologia che li caratterizzi possiamo pensare che alcuni di essi teoricamente, ed altri praticamente, si riconoscano nel transumanesimo, movimento ideologico che ha come uno dei principali rappresentanti il futurologo Ray Kurzweil, “computer scientist” e pluripremiato inventore nel campo della AI. Secondo Kurzwell il “transumanesimo” delinea il tragitto verso la perfezione della vita umana utilizzando la manipolazione genetica, le nanotecnologie, l’evoluzione inarrestabile della intelligenza artificiale ed altre invenzioni tecnologiche come il potenziamento dell’intelligenza umana con la creazione di cyborgs.

Alcune delle sue previsioni sembrano il delirio di Mary Shelley nel suo romanzo gotico “Frankenstein o il moderno Prometeo”, ma anzi le superano di gran lunga, delineando inquietanti futuri scenari. Questi scenari prevedono ad esempio che sara’ possibile costruire una intelligenza simil-umana formata da atomi di silicio, espandendola senza limiti. Questa “super-intelligenza” permetterebbe di risolvere gran parte dei problemi del genere umano, sempre secondo Kurzwell.

Alle molte critiche tecniche a questo progetto, i transumanisti rispondono con una certa arroganza all’incirca cosi’: “se un atomo di carbonio e’ alla base della nostra intelligenza perche’ non lo puo’ essere un atomo di silicio?”

Il “maître à penser” dei transumanisti e’ il filosofo svedese Nick Bostrom, fondatore della World Transhumanist Association. Bostrom e’ uno dei fautori dell’idea che noi vivremmo in una realta’ virtuale, creata da esseri superiori che popolano qualche pianeta al di fuori del sistema solare.

Questa idea, che ad un primo approccio puo’ apparire balsana, risolverebbe comunque alcune delle contraddizioni della fisica quantistica per cui e’ giudicata possibile, non senza critiche, da alcuni fisici.

Comunque come e’ stato giustamente obiettato, la “Matrix hypotesis” non e’ verificabile, ne’ dimostrabile in alcun modo perche’ noi siamo nella scatola e gli eventuali inventori delle nostre vite artificiali ne sono fuori. Come molti filosofi hanno evidenziato, chi sta nella scatola non puo’ vedere cosa avviene fuori. E se questo sembra logico, il fatto che la nostra vita sia virtuale o reale non fa nessuna differenza perche’ non lo sapremo mai.

Ma colpisce il mio pensiero che avevamo, e molti la hanno ancora, una robusta ipotesi di un dio creatore, e si cerca con altre teorie metafisiche di spiegare che la nostra realta’ e’ il risultato di un complesso giuoco di una civilta’ aliena.

Bostrom e’ un pensatore molto accreditato nella Silicon Valley, seguito da personaggi come Elon Musk, ed assertore dei grandi vantaggi che l’essere umano otterra’ da una crescita della tecnologia indirizzata al miglioramento delle capacità fisiche e cognitive della nostra specie.

Quello che mi sembra giusto criticare del pensiero di Bostrom e degli altri futuristi e’ che la loro visione e’ indirizzata ad un lontano futuro e sembra appositamente non considerare i piu’ vicini

pericoli per la vita di questo pianeta. Guerre, rischio nucleare, fame, ingiustizie sociali, razzismo, crisi climatiche ed altre serie minacce che noi oggi affrontiamo sono, nel loro calcolo utilitaristico, il male minore. Milioni di morti oggi per prevenirne miliardi nel lontano futuro.

Bostrom, nell’affrontare la questione, che occuparsi dei rischi dovrebbe iniziare da quelli piu’ prossimi, se il vero obiettivo e’ quello di migliorare l’umanita’, risponde che questi eventi di oggi, terribili per noi umani, sono solo increspature (ripple) del mare della vita. Ai transumanisti interessa il lontano futuro dell’umanita’. Per questo alcuni di essi preferiscono definirsi “lungotermisti “un neologismo creato per inseguire questi obiettivi.

Ma a questo punto le acque si intorbidano: cade il velo della ideologia ed entrano in gioco pesanti interessi economici condizionando le scelte del “che fare”. Eccoli li’ gli ultramiliardari “Hitech” che, escono allo scoperto e ci accorgiamo che erano li’ sin dall’inizio. Piuttosto che affrontare la crisi climatica, propongono la futura soluzione: popolare gli esopianeti. Elon Musk sta gia’ preparando la tecnologia dei viaggi spaziali e si teorizza il grande esodo degli umani verso pianeti differenti dalla nostra terra. Ma l’esodo non potra’ coinvolgere miliardi di umani ma, probabilmente un numero anche elevato, particolarmente di tecnici ed altri specialisti. Una tecnologica arca di Noe’.

Sembrano i deliri di scrittori di fantascienza, ma tutto fa pensare che un gruppo di svitati stia pensando davvero a questo futuro. Ed hanno i mezzi finanziari e, oggi, politici per ipotizzarlo e tentare di renderlo reale.

Ma se, come diceva argutamente Nielse Bohr, “fare previsioni e’ mestiere difficile, specie se riguardano il futuro”, che si avveri questo previsto futuro e’ improbabile. Quello che ci deve preoccupare, invece, è che enormi investimenti pubblici vengano dirottati su questa impresa a scapito di altri obiettivi come la lotta dl riscaldamento globale, alla poverta’, alla fame ed ad altri compiti diretti a risolvere i problemi di oggi.

Questi sono i fatti, la parte seguente cerchera’ di analizzarli piu’ approfonditamente.

SECONDA PARTE

Appello per una moratoria allo sviluppo della AI

Ad aprile del 2023, qualche mese dopo il successo di Chat-GPT, un gruppo di cibernetici, qualche imprenditore del settore come Musk , i ricercatori di “Deep Mind” ed alcuni scienziati , hanno inviato una lettera aperta ai giornali con il titolo “ Pause a giant AI experiments”.
Nella lettera si invitavano tutti i laboratori coinvolti nella ricerca sulla AI a sospendere per almeno 6 mesi lo sviluppo di queste forme di Intelligenza artificiale. I rischi paventati erano quelli di un incontrollato sviluppo di intelligenze non umane che avrebbero potuto in futuro prendere il controllo sulle nostre vite. A fianco a questo rischio, altri problemi sarebbero potuti venire sia dalla perdita incontrollata di posti di lavoro, sia dal rischio di manipolazione delle informazioni attraverso la diffusione di “fake news” o di immagini falsificate (deepfake ). L’appello terminava con la giusta riflessione che le decisioni sullo sviluppo delle AI “non devono essere delegate a leader tecnologici non democraticamente eletti”.
Una lettera di questo genere merita una attenta valutazione sul perche’ sia stata scritta, che significato abbia e se i rischi paventati siano reali ed eventualmente come sarebbe possibile un controllo di questi rischi.
Apparentemente la lettera e’ apprezzabile perche’ i rischi dello sviluppo incontrollato della AI sono veri e quindi condividibili. Apprezzabile anche perche’ e’ firmata da esperti del settore che, quindi, conoscono quello di cui parlano e che apparentemente agiscono contro i loro interessi.
Tuttavia per una moratoria, esplicitando che i risvolti etici ed economici dovrebbero essere affidati ai rappresentanti politici, 6 mesi di tempo appaiono assolutamente inadeguati.
I firmatari dell’appello sono un gruppo eterogeneo e, quindi le motivazioni ad aderire sono molto diverse. In questo gruppo l’ideologia di base che sembra predominare e’ quella di Bostrom e dei lungotermisti che hanno, come prima ho accennato, una visione fantasiosa, per usare un termine gentile, di come dovrebbe essere il futuro dell’umanita’. Quindi e’ difficile capire se e come questa visione abbia condizionato l’iniziativa.
Comunque la moratoria suggerita non e’ indirizzata a tutto il confuso progetto dei transumanisti, che appartiene piu’ alla letteratura “science fiction” che alla scienza vera, ma e’ rivolta soltanto alla AI.
Due rischi attuali e molto reali della AI sono la disinformazione e la possibile perdita di posti di lavoro.
Il poter influenzare libere elezioni e condizionarne il voto e le scelte dell’elettore sono state svelate dallo scandalo di Cambridge Analytica, una società di consulenza politica fondata nel 2013 . Questa societa’, sia per la campagna elettorale di Donald Trump nel 2016, sia probabilmente per la Brexit, avrebbe utilizzato centinaia di migliaia di utenti di Face book, violandone la privacy, per ricostruire i profili psicologici degli elettori ed influenzarne il voto. Ma il rischio, attualmente solo teorico, paventato dai firmatari della moratoria, e’ molto piu’ complesso ed imprevedibile. E’ che l’AI diventi consapevole di se’, e prenda decisioni autonome. In conclusione, è il rischio che l’AI possa acquisire una forma di coscienza. Nell’ideologia di Bostrom e’ gia’ ventilata l’ipotesi che replicare per via digitale il cervello umano sia un obiettivo perseguibile. La potenzialita’ tecnologica di replicare il nostro complesso cervello e’, tuttavia, molto diversa dalla possibilita’ che l’AI acquisisca autonomamente coscienza di se. Replicare il nostro cervello si potrebbe ottenere, secondo Bostrom, attraverso la creazione di ciborgs, cioe’ di complessi uomo-macchina. Un approccio, seppur iniziale, a creare questi complessi, e’ gia’ in
atto con Neuralink, societa’ di Musk, che ha avuto l’avallo della FDA a sperimentare nell’uomo l’impianto di un chip nel cervello con lo scopo di combattere alcune disabilita’ motorie. Tuttavia per chiarire meglio questo punto, il pericolo paventato dalla lettera non e’ quello di potenziare il nostro cervello, creando complessi uomo macchina, dato che questo e’ un progetto esplicitato da Bostrom, dai transumanisti ed è gia’ iniziato da Musk; il pericolo e’ che l’AI diventi autonoma e quindi non possa essere piu’ controllata dall’uomo. La comparsa di una intelligenza aliena in questo nostro pianeta solleva problemi molto complessi. Non solo, come scrivevo sopra, per il rischio di perdere un controllo umano, ma anche per il sorgere di complicati risvolti etici. Oggi puoi senza remore mandare al macero un vecchio computer, ma si potrebbe fare lo stesso con un computer che ha coscienza di se? Sembra facile rispondere, ora, che non sappiamo bene che cosa sia la coscienza e che, comunque, i computers di oggi non hanno senzienza e che, pensiamo, mai l’avranno, ma possiamo essere sicuri di queste asserzioni? Esiste un non piccolo gruppo di esperti del settore, i cosiddetti sostenitori della ” AI forte” che credono possibile che l’AI diventi cosciente , ed un piu’ piccolo numero che crede che, gia’ oggi, l’AI possa avere un certo grado di senzienza. Un aspetto non secondario della comparsa di una intelligenza aliena e’ l”uncanny Valley” che si puo’ tradurre in italiano con “valle perturbante”, un termine coniato dall’ingegnere giapponese Masahiro Mori. Il perturbamento (unheimlich), straordinario argomento di uno scritto di Freud, e’ la sensazione di angoscia, repulsione ed inquietudine che puo’ destare un robot che non solo imita il comportamento umano, ma che e’ costruito per assomigliarli. Per vedere il tuo livello di perturbamento vai a https://www.hdblog.it/robotica/articoli/n597567/scienziato-giapponese-robot-replica-video/ dove lo scienziato Ishiguro mostra il robot sosia di se stesso. Il perturbamento che gli aspetti antropomorfici della AI, sia intellettuali che fisici, potrebbero destare nel loro utilizzo futuro e’ un altro possibile ostacolo da valutare con attenzione.
Lo stato attuale della AI
Mentre il grande pubblico e la stampa seguono con interesse ed ammirazione l’evolversi della AI, non pochi scienziati cognitivi, filosofi ed addetti ai lavori hanno iniziato a discutere ed a preoccuparsi dei limiti ai quali l’AI evolvera’. O per essere piu’ precisi, i limiti fino ai quali permetteremo che evolva. La lettera sulla moratoria, della quale abbiamo parlato, lancia un avvertimento su questo. Allo stato attuale quasi tutti gli esperti del settore sono certi su un punto: l’AI di oggi e’ uno strumento che non ha una sua propria senzienza, riceve ordini ed obiettivi dai programmatori, non comprende quello che elabora dal suo data set. Insomma risponde alla definizione di Ivan Illich: “la tecnologia e’ competenza senza comprensione”. Alla base di queste due asserzioni: 1) l’AI e’ intelligente, 2) l’AI in futuro diventera’ consapevole di sé, e’ conseguenza della nostra interpretazione antropomorfica del mondo. Una valutazione semantica del termine “intelligenza” pone seri dubbi che l’AI sia davvero intelligente. Questo termine e’ accettabile se si limita a significare che il computer esegue lavori che richiedono all’uomo intelligenza per eseguirli. Lo stesso Alan Turing nel suo articolo del 1950 “Computing Machinery and Intelligence” parla di “imitation game” cioe’ del “giuoco di imitazione” della macchina che giuoca ad imitare l’uomo. Ma l’imitazione non comporta necessariamente intelligenza come dimostro’ ampiamente il filosofo Searle con il noto esperimento della stanza cinese (https://it.wikipedia.org/wiki/Stanza_cinese). Il test proposto da Turing serviva a misurare se il computer, da ottimo imitatore potesse diventare anche intelligente. E fino ad ora il test non e’ stato mai completamente superato da nessuna AI
quando gli esaminatori erano esperti del settore, come ha puntualizzato in diverse occasioni il filosofo di Oxford Luciano Floridi. La seconda asserzione, cioe’ che l’AI acquisisca una coscienza, e’ cosa ben diversa. La prima ed elementare obiezione a questa asserzione e’ che non sappiamo bene cosa sia la coscienza nell’uomo, quali siano i suoi correlati neurali e tantomeno come funzioni. E’ probabile che vi siano in natura diversi gradi di coscienza di se, e che altri animali oltre l’uomo siano coscienti. Questo ci dice che non dobbiamo ipotizzare una coscienza della AI paragonabile a quella umana, che e’ il risultato di una integrazione di informazioni, che sono state acquisite attraverso sofisticati organi percettivi, con emozioni e memoria di informazioni precedenti. La coscienza è apparsa e si e’ sviluppata sotto la pressione evolutiva, nel corso di milioni di anni. Tuttavia molte altre obiezioni al rischio che l’AI possa divenire un giorno cosciente, anche a livelli della scala evolutiva piu’ bassi di quelli del Sapiens, appaiono sensate e ragionevoli. Forse la piu’ importante delle obiezione viene dal concetto di “conoscenza tacita”. Secondo Michael Polanyi una parte importante della nostra conoscenza nell’arte, nella scienza e nella vita di tutti i giorni e’ implicita. Essa è per nulla o difficilmente esplicitabile e quindi non computabile. Secondo questa importante teoria della conoscenza non tutto e’ riducibile ad algoritmi. Piu’ raffinate obiezioni ad una coscienza della macchina vengono da Roger Penrose, premio Nobel della fisica, da Anil Seth scienziato cognitivo inglese e da molti altri. In conclusione cosa rimane della lettera sulla moratoria? Quale e’ il prossimo pericolo della AI per cui e’ consigliabile bloccarne lo sviluppo per almeno 6 mesi? Cosa puo’ accadere in 6 mesi quando e’ assolutamente prevedibile che in questo breve periodo il controllo dell’uomo non verra’ perso? Ed infine c’e’ da preoccuparsi se questa simil-religione del transumanesimo, un misto di scienza, tecnologia e filosofie esoteriche si sviluppera’ senza controlli? Tutte queste ideologie lungotermiste vagano tra ragionamenti filosofici e visioni fantascientifiche di abitanti di Silicon Valley. Molti adepti di questo credo appartengono ad una popolazione bianca, di maschi Nerd. Piu’ profondamente c’e’ la mitizzazione di una nuova specie di tecnocrati, superiori agli altri perche’ in possesso degli strumenti per salvare l’umanita’. Sullo sfondo rimane pero’ un capitalismo dai contorni oscuri che possiede la ricchezza ed il potere soverchiante dell’informazione. Come scriveva James Moor autore del libro “What is Computer Ethics”, la tecnologia dell’informazione dovrebbe non solo fornire accesso alle informazioni ma anche promuovere la saggezza e la loro comprensione. E’ necessario mettere in discussione profondamente l’etica del processo di sviluppo delle tecnologie emergenti (Moor 2008). Parole al vento se appena 10 anni dopo, come ho accennato prima, Mark Zuckerberg ha dovuto scusarsi davanti al Congresso degli USA perche’ oltre 800mila profili di Facebook erano stati venduti a Cambridge Analytica ed erano stati utilizzati dall’intelligence russa per influenzare le elezioni presidenziali americane del 2016. Occorre quindi stabilire, sin d’adesso, delle regole stringenti sull’ etica e sulla privacy dell’informazione e della AI. Regole da aggiornare e migliorare parallelamente all’evolversi delle tecnologie. Ma credo sia anche lecito porsi la domanda fino a che punto la vita mediata dalle macchine ci gratifica e ci nobilita? (Kirk Schneider AEON 2024).
Ma occorre principalmente meditare sul conflitto che le ideologie tecnocratiche tendono ad esasperare: il conflitto tra l’uomo nuovo, che queste ideologie vorrebbero creare, e la natura umana.
Essenziali caratteristiche di ogni animale di questo pianeta sono sempre state quelle legate all’evoluzione vincente delle varie specie. E queste caratteristiche rimangono tenaci alla base del nostro comportamento. Decine di migliaia di anni di evoluzione culturale, necessaria per creare e stabilizzare la vita sociale del Sapiens, hanno inciso poco su questi istinti primitivi.
Religioni, filosofia, letteratura ed arte sono riuscite a mitigare i nostri istinti ma non ad abolirli. La stessa ideologia tecnocratica, incentrata sulla superiorita’ dell’uomo tecnologico, e’ una raffinata evoluzione dell’istinto di sopravvivenza da cui deriva anche il primeggiare sugli altri.
Gli istinti primitivi, si possono mascherare, anche con apparenti scopi altruistici, ma non abolire.
Chiunque voglia cambiare la natura dell’uomo deve fare i conti con questo insormontabile ostacolo.
Ed e’ per questo che l’evoluzione scientifica dell’uomo dovra’ integrarsi con le “humanities” cioe’
con lo studio del linguaggio e della letteratura, delle arti, della storia e della filosofia. Perche’ solo queste hanno, fino ad adesso, coltivato i principi etici.