Il processo pilota
LOS ANGELES, 30 marzo 2026 – Il Grande Processo alle Big Tech della Silicon Valley è arrivato ad un prima sentenza.
La storia della protagonista che ha vinto la prima battaglia di una partita che sembrava persa in partenza comincia nel 2011. Kaley, una bambina di 6 anni, riceve in regalo il suo primo tablet. All’inizio è un gioco, poi un passatempo innocuo, poi una trappola che diventa pericolosa. Quindici anni dopo la bambina del tablet è la protagonista della prima sentenza storica che riconosce che l’algoritmo è un prodotto industriale “difettoso” e condanna Meta ed Alphabet ad un risarcimento di 6 milioni di dollari per aver causato l’anoressia nella ragazzina ancora giovanissima. Kaley oggi ha 21 anni, ed è la “paziente zero” di una battaglia legale che si ritiene essere solo all’inizio.
Kaley apre un profilo sui social a nove anni, mentendo sull’età come tanti ragazzini come lei, e aggirando i sistemi di verifica delle piattaforme, gli stessi che i periti durante il processo di Los Angeles hanno definito “volutamente” porosi.
La ragazzina scivola giovanissima nel tunnel del dismorfismo corporeo e poi nell’anoressia nervosa, vittima di feed che le propongono contenuti sempre più estremi.
Durante la sua testimonianza alla Corte Superiore di Los Angeles descrive la spirale del suo disagio fino ai ricoveri psichiatrici.
Il verdetto del 25 marzo 2026 le da ragione: la giuria stabilisce che sia Meta che Alphabet hanno agito per ottimizzare il profitto, ignorando deliberatamente il benessere della minore e non mettendo limite all’algoritmo nella proposizione dei contenuti per aumentare engagement e profitto. La condanna per i due colossi del Tech è un risarcimento di 6 milioni di dollari di cui 3 compensativi e 3 punitivi.
L’architetto dell’accusa: Mark Lanier
Dietro la vittoria di Kaley c’è Mark Lanier, l’avvocato texano noto per aver piegato i colossi farmaceutici e quelli del tabacco anni fa.
Lanier applica la stessa strategia usata in precedenza e che consiste nella “dottrina del danno da prodotto”: non attacca la “libertà di espressione” o la liceità dei contenuti postati dagli utenti, territorio scivoloso e “blindato” dalla celebre Sezione 230 che riguarda la libertà d’espressione, ma si concentra sul design, e sulla meccanica del software e del funzionamento del social, cioè l’algoritmo.
Dice Lanier in aula “Se un giocattolo è progettato per ferire un bambino, il produttore ne risponde. Scroll e notifiche sono “bulloni difettosi” di una macchina progettata per creare dipendenza”.La Giudice Carolyn Kuhl
A permettere che questa tesi arrivasse in aula è la giudice Carolyn Kuhl. In un sistema legale spesso paralizzato dal timore di violare il Primo Emendamento, Kuhl traccia un confine netto tra libertà di espressione e danno da uso del prodotto e un quadro logico che regge la prova del processo. La piattaforma è un’infrastruttura, e se l’infrastruttura è pericolosa, il gestore è responsabile. L Kuhl istruire il caso nel 2023 e di fatto lo trasforma nel primo “bellwether trial”, il “processo pilota” per le tante cause simili che stanno prendendo forma in questi ultimi anni in tutti gli stati Uniti. Naturalmente Meta e Alphabet hanno fatto ricorso, nell’estate di quest’anno si vedrà cosa succede, ma la sensazione è che la strada sia tracciata.
Oakland: Yvonne Gonzalez Rogers
Mentre a Los Angeles arrivava la sentenza, a circa 600 chilometri di distanza, nel tribunale californiano federale di Oakland, nel pieno della silicon Valley, la giudice Yvonne Gonzalez Rogers ottiene un secondo grande risultato, sempre sullo stesso tema, continuando il lavoro iniziato dalla collega Kuhl tre anni prima.
La Rogers coordina la Multidistrict Litigation (MDL) numero 3047, un “contenitore” che accorpa oltre 2.500 cause federali contro gli algoritmi di Meta e simili. A fare causa in questo caso non sono più solo singole, persone o famiglie, ma centinaia di distretti scolastici americani. La tesi di Oakland è “sistemica”: le scuole chiedono miliardi di dollari a Meta e Google come risarcimento delle spese straordinarie sostenute per gestire la crisi della salute mentale degli studenti.
Siamo solo all’inizio del percorso, la prima seduta è prevista in aula a Oakland, il 15 giugno di quest’anno. Ma è proprio la prospettiva sistemica di Rogers che potrebbe rivelarsi un’ulteriore svolta
Santa Fe
E sempre negli States, 24 ore della sentenza di Los Angeles, il 24 marzo una giuria di un tribunale civile di Santa Fe, nel New Mexico, ha emesso una sentenza anche in questo caso “storica” condannando Meta Platforms Inc. al pagamento di 375 milioni di dollari in sanzioni civili.
La decisione è stata presa in seguito a una causa intentata dal Procuratore generale dello Stato, che ha accusato l’azienda di Mark Zuckerberg di aver violato le leggi statali con pratiche commerciali sleali e di non aver protetto adeguatamente i minori.
La sentenza si basa sul principio che le piattaforme sapevano che la crittografia di Messenger facilitava il “grooming” dei “predatori”, il punto centrale su cui si è svolto il processo e si è quantificata la multa da 375 milioni di dollari per ogni persona. Meta è stata ritenuta responsabile di aver esposto consapevolmente gli utenti minorenni a materiale sessualmente esplicito e al rischio di contatto con predatori sessuali sulle sue piattaforme. La corte ha inoltre stabilito che l’azienda non ha informato correttamente i genitori e gli utenti riguardo ai pericoli intrinseci all’uso dei suoi servizi.
Meta ha già annunciato l’intenzione di presentare appello contro questa sentenza, arrivata quasi in contemporanea con quella di Los Angeles, 24 ore prima. Le Big Tech non sembrano essere più le “piazze digitali” intoccabili del decennio scorso, ma agli occhi della legge, sono industrie come le altre, che vendono prodotti e che devono preoccuparsi della sicurezza di quello che vendono, specialmente quando questi prodotti vengono utilizzati da utenti minori, o fragili.
Achille e la tartaruga
Nel processo californiano che si disputerà a brave sulle oltre 400 cause riunite contro i giganti dei social, non si discuterà di “libertà di espressione” ma di “ingegneria” del danno causato.
L’intuizione è dell’avvocato Matthew Bergman, fondatore del Social Media Victims Law Center, tra i primi con Mark Lanier ad intuire che per battere le Big della Silicon Valley non bisognava attaccare i contenuti, ma il design del prodotto.
Il “nemico”, quindi, non è tanto il post pro-anoressia in sé, ma l’algoritmo che decide di consegnarlo strategicamente a una dodicenne vulnerabile. La tesi del difetto di progettazione consiste esattamente in questo. “Se un giocattolo è costruito con materiali tossici, il produttore ne risponde” dice l’avvocato Bergman. Se un social media è progettato per indurre dipendenza biochimica tramite la dopamina, il programmatore è responsabile dal punto di civile. E se l’azienda sa che l’algoritmo è pericoloso, ma i suoi vertici decidono di continuare ad usare lo strumento per massimizzare i profitti, allora l’azienda è responsabile. Le ammissioni di Frances Haugen che disse “peggioriamo una ragazza su tre” sono la prova giudiziaria che ha portato al processo di Oakland. Il passaggio dalla “Sezione 230” (l’impunità per i contenuti) alla Product Liability (la responsabilità per il software) è il vero terremoto del 2026. Non si parla più solo di post cattivi, genitori distratti o società disumana, ma di connessione sociale che crea dipendenza.
Il processo di Oackland inoltre sarà diverso dagli altri avvenuti fino ad ora, perché mette assieme centinaia di cause di scuole e istutuzioni che si costituiscono parte civile. Non solo i singoli ma le scuole che denunciano i danni e i costi del danno.
Il diritto insomma sta inseguendo la tecnologia, e assomiglia un pò ad Achille che nel paradosso di Zenone, non raggiunge mai la tartaruga, con la differenza in questo caso che la tecnologia procede a grandissima velocità. A volte il diritto si avvicina molto alla tecnologia, soprattutto quando tiene assieme il fenomeno, il contesto, e le persone nella loro concretezza, o quando si muove in una zona di transizione in cui non esiste alcuna norma per regolare il nuovo che avanza. Nei Facebook file dietro ai file riservati, ai dati e alle statistiche ci sono i casi concreti, che sono le storie delle persone vittime dell’algoritmo. C’è Selena Rodriguez, agganciata dall’algoritmo a 11 anni e spinta in una spirale di autolesionismo fino al suicidio. C’è Brianna G., una ragazza che ha cercato consigli per il fitness, ed è stata “targetizzata” da un sistema che ha saturato il suo feed di restrizioni caloriche estreme. Brianna oggi pesa 35 chili. Ce ne sono tante altre…
I Facebook files/1
Ciò che ha convinto le giurie e i giudici non sono state solo le perizie psichiatriche, ma le parole degli stessi dipendenti di Meta. I documenti emersi hanno confermato che i vertici sapevano tutto, cioè sapevano che Instagram peggiorava l’immagine corporea per una ragazza su tre, e sapevano che l’algoritmo spingeva utenti vulnerabili verso “bolle” di autolesionismo perché queste generavano più interazioni, e quindi erano più efficaci nel trattenere per più tempo sui siti gli utenti. I famosi FacebookFile che incastrano le Big Tech sono stati portati alla luce dalla whistleblower Frances Haugen già nel 2021, e rappresentano la prova regina del fatto che il danno psicologico agli adolescenti non è un “effetto collaterale imprevisto”, ma una variabile nota all’azienda e accettata in nome del profitto. Un difetto del prodotto che non si può aggiustare.
Nei file incriminati alcuni ricercatori interni di Meta avevano lanciato l’allarme già nel 2019. In una presentazione riservata, si leggeva testualmente: “Peggioriamo i problemi legati all’immagine corporea per una ragazza adolescente su tre”. Non si trattava di una statistica astratta, ma di una correlazione diretta basata su numeri e analisi dei “data scient” del’azienda, in particolare per Instagram, che per sua natura è basato su immagini e sul confronto sociale, e può diventare per i più fragili un “catalizzatore di ansia”. Nonostante queste evidenze però l’azienda ha continuato a ottimizzare le funzioni che spingono verso una perfezione estetica irraggiungibile.
Gli esperti lo chiamano il meccanismo della “Rabbit Hole”, la “tana del coniglio”. L’aspetto più inquietante emerso dai file riguarda proprio la gestione dei disturbi del comportamento alimentare. I documenti dimostrano che Meta era consapevole di come l’algoritmo di raccomandazione “Esplora” operasse una selezione degli utenti profilando la fragilità e su questo aspetto ha fatto leva per massimizzare il tempo di permanenza sulla piattaforma e di conseguenza il profitto.
Concretamente, se un’utente interagisce con frequenza con contenuti di “alimentazione sana”, o sport, l’algoritmo prova a proporre contenuti pro-ana (anoressia) e pro-mia (bulimia). Se l’utente si aggancia a questi contenuti l’algoritmo intensifica la proposta di questi contenuti. Questo meccanismo genera profitti ma è tossico. Le ricerche interne hanno mostrato che i contenuti che generano rabbia, ansia o ossessione mantengono l’utente incollato allo schermo per un tempo tre volte superiore rispetto ai contenuti neutri. Meta non vuole spingere all’anoressia nessuno, semplicemente utilizza tutte strategie che conosce per far stare le persone sulle piattaforme il più tempo possibile.
Frances Haugen
I “Facebook Files” sono diventati documenti di dominio pubblico ed hanno cambiato in profondità la percezione che gli nutrenti hanno delle Big Tech.
Il ruolo di Frances Haugen in questa vicenda è stato centrale
Haugen non ha solo consegnato i documenti, ma ha spiegato al mondo come funziona il business della piattaforma. Secondo la sua testimonianza, Meta ha deliberatamente rimosso i filtri di sicurezza che avrebbero potuto mitigare questi rischi perché avrebbero ridotto il numero di minuti passati sulla app. “L’azienda sa come rendere Instagram più sicuro, ma non lo farà perché la sicurezza mangia i profitti”, ha dichiarato la Haugen davanti al Congresso.
Frances Haugen è un’ex data scientist di Meta specializzata in algoritmi di ranking. Nel 2021 ha sottratto migliaia di pagine di ricerche interne, consegnandole al Wall Street Journal e testimoniando davanti al Congresso USA, sostenendo una tesi brutale: “Facebook sceglie il profitto rispetto alla sicurezza”. La Haugen ha dimostrato che l’azienda sa perfettamente quali danni causano i suoi prodotti, ma sceglie di non risolverli, perché le soluzioni causato perdite di profitto.
I Facebook files/2
All’interno dei “Facebook Files” si parla molto dei DCA, dell’anoressia in particolare.
Nei documenti interni di Meta, i ricercatori dell’azienda scrivevano frasi che non lasciano dubbi ad interpretazioni. Oltre al celebre “Peggioriamo i problemi legati all’immagine corporea per una ragazza adolescente su tre”, nei file si afferma esplicitamente che Instagram è un sistema che “aggrava i disturbi alimentari”. Una ricerca interna riportava che “Il 32% delle ragazze adolescenti ha dichiarato che quando si sentivano male con il proprio corpo, Instagram le faceva sentire peggio.” Altra ricerca spesso citata nei files è quella fatta tra gli adolescenti inglesi e la tendenza al suicidio o all’autolesionismo. Il 13% degli utenti britannici e il 6% di quelli americani hanno ricondotto il desiderio di uccidersi direttamente a Instagram.
I documenti mostrano poi che Meta era consapevole che l’algoritmo portava gli utenti più fragili verso contenuti di restrizione calorica estrema e digiuno, perché esattamente come per altri contenuti “sensibili” generavano reazioni emotive più forti e, quindi, più tempo sulla app, e più interazioni.
Questi documenti sono stati fondamentali per i giudici perché hanno contribuito a dimostrare la colpevolezza delle aziende: Meta non può dire “non sapevamo” perché proprio i loro stessi scienziati li avevano avvertiti anni prima. Nonostante sapessero che Instagram era “tossico” per una parte significativa di adolescenti, hanno continuato a progettare funzioni per attirare un pubblico sempre più giovane (il progetto “Instagram Kids”ad esempio è stato sospeso dopo lo scandalo).
Non si discute più dunque sull’eventualità che i social facciano male, ma se le aziende abbiano occultato o continuino ad occultare la pericolosità del prodotto, esattamente come fece l’industria del tabacco con i tumori ai polmoni.
Anche in questo caso, come nel caso del tabacco la legislazione statunitense mostra un approccio molto diverso da quella europea che si basa sulla tutela del dato e su sanzioni amministrative, e per quanto rigorosa sia quella europea, è curioso che la svolta stia partendo proprio dal luogo dove è nato il social e l’IA.
Non sei solo
Meta e TikTok da qualche settimana hanno cominciato a inviare messaggi di questo tipo in risposta a ricerche di hashtag specifici riguardanti anoressia, disturbi alimentari e atti autolesivi. Questa campagna fu anticipata da un annuncio di due mesi fa, qui nella versione integrale:
“Instagram inizierà a inviare una notifica ai genitori se i figli adolescenti tentano ripetutamente di cercare, in un breve arco di tempo, termini relativi a suicidio o autolesionismo. Instagram già blocca questi tentativi di ricerca, indirizzando le persone verso linee di supporto; l’obiettivo di questa ulteriore misura è fornire ai genitori le informazioni necessarie per supportare i propri ragazzi. Gli avvisi sono infatti accompagnati da risorse fornite da esperti per aiutare i genitori a gestire conversazioni delicate con i propri figli. Consapevoli che oggi molti adolescenti si rivolgono anche all’intelligenza artificiale quando cercano informazioni o supporto su temi delicati, stiamo sviluppando notifiche analoghe rivolte ai genitori anche per alcune esperienze che coinvolgono l’Ia: l’obiettivo è informarli qualora i propri figli adolescenti tentino di avviare con l’Ia conversazioni legate a suicidio o autolesionismo. È un ambito che richiede attenzione e responsabilità, e sul quale continueremo a lavorare con cura, condividendo ulteriori aggiornamenti nei prossimi mesi”.
La tecnologia, nel nostro caso l’algoritmo, di per sé ovviamente non è né buono. né cattivo, né etico, è uno strumento che può essere usato in maniera etica oppure no, dipende. Oggi Meta deve difendersi dalle accuse della giustizia di Los Angeles, che sostiene che le piattaforme siano industrie come le altre e debbano garantire la sicurezza dl loro prodotto. Se il prodotto è difettoso la responsabilità è di chi lo produce, o lo usa per fare profitti. Il post che abbiamo riportato sembra essere una risposta tardiva al problema sollevato: arriva poco prima della sentenza di Los Angeles e dopo un iter processuale durato tre anni e segnala un forte imbarazzo delle piattaforme nella gestione di una vicenda che potrebbe portare a scrivere una storia del tutto diversa delle piattaforme non solo i social network.
Social Media e Salute Mentale.
Secondo la sentenza della Corte Suprema di Los Angeles esiste un nesso tra gli algoritmi e le patologia psichiche che risiede nel design e nell’architettura informatica delle piattaforme. Dire che il nesso tra il design del software e l’insorgenza di disturbi psichiatrici è di causa ed effetto equivale di fatto a validare definitivamente tutta la letteratura scientifica che da anni segnala la tossicità del social e degli algoritmi con i suoi sistemi di raccomandazione di contenuti agli utenti.
Durante il processo si è evidenziato come le piattaforme sfruttino circuiti neurologici sovrapponibili a quelli delle dipendenze da sostanze. Si parte da quello che viene definito “rinforzo intermittente”: i like, le notifiche e le visualizzazioni attivano picchi di dopamina, un meccanismo che nei minori, nei quali la corteccia prefrontale responsabile del controllo degli impulsi è in fase di sviluppo, crea una dipendenza biochimica difficile da interrompere.
Un secondo meccanismo è quello dell’Infinite Scroll, una funzione che elimina i “punti di stop” naturali inducendo uno stato di trance digitale che altera il ciclo del sonno e aumenta i livelli di ansia e irritabilità.
Tra le conseguenze più diffuse dovuto all’esposizione prolungata a contenuti ultra-brevi, i Reels e gli Shorts, ci sono la riduzione della soglia di attenzione e l’incremento dei sintomi di iperattività.
Il nesso tra gli algoritmi di raccomandazione e i Disturbi del Comportamento Alimentare emerge in maniera esplicita dai documenti riservati interni di Meta, costantemente ignorati dai vertici dell’azienda. Gli algoritmi di Instagram sono stati definiti “acceleratori di patologia”, perché spingono ad un costante confronto sociale verso l’alto, con un’esposizione costante a immagini ritoccate o corpi idealizzati che alimenta il dismorfismo corporeo, cioè una percezione distorta del proprio aspetto.
Vale la pena approfondire il funzionamento di questo meccanismo, che spiega bene anche il motivo della sentenza di Los Angeles. Nei file interni di Meta si parla di “Tunneling Algoritmico”, per cui quando un adolescente cerca contenuti relativi a diete o fitness, l’algoritmo lo profila e inizia a proporre contenuti sempre più estremi (i famigerati “pro-ana”, o “pro-mia”), creando una “bolla” che normalizza comportamenti alimentari devianti, questo perché l’algoritmo è programmato per massimizzare il tempo di permanenza e catturare l’attenzione dell’utenza.
Nel processo di Los Angeles viene citato tra gli altri un dato tratto proprio dai “Facebook Files”, secondo cui il 13% delle utenti adolescenti britanniche ha dichiarato che il desiderio di suicidio è iniziato dopo aver utilizzato Instagram.
La piattaforma inoltre viene considerata un bene di consumo pericoloso perché non ha filtri per l’età. Nonostante fossero consapevoli dei rischi, le aziende hanno permesso l’iscrizione a minori di 13 anni, senza implementare sistemi di verifica dell’identità o avvisi di rischio per la salute mentale.
La querelante, Kaley G.M., ha iniziato a usare YouTube all’eta di 6 anni.
Le piattaforme inoltre possiedono i dati per identificare utenti in crisi, perché sanno perfettamente chi cerca hashtag con termini legati all’anoressia o all’autolesionismo, ma hanno dato priorità all’engagement rispetto alla segnalazione o al blocco dei contenuti tossici. I messaggi che Meta e TikTok inviano da quest’anno agli utenti che fanno ricerche ritenute pericolose confermano che gli strumenti per limitare almeno in parte effetti collaterali nefasti c’erano, ma che si è scelto di non utilizzarli.
Il verdetto di Los Angeles sposta ora il dibattito dalla libertà d’espressione alla sicurezza del prodotto. In altri termini, se le piattaforme sono progettate per essere “irresistibili” ed agiscono a livello neurologico, allora la responsabilità dei danni psichiatrici ricade su chi produce e usa lo strumneto. Questo precedente apre la strada a una regolamentazione più severa che potrebbe imporre il divieto dell’uso di algoritmi di raccomandazione per i minori, o l’obbligo di inserire “interruttori” temporali forzati e rimuovere alcune delle funzioni di scrolling infinito e autoplay nelle versioni per adolescenti.
Tre facce della stessa medaglia
Per concludere questo racconto occorre ancora un ultimo passaggio sulla sentenza, meno nota,
del tribunale di Santa Fe, che ha ricevuto in proporzione meno attenzione mediatica rispetto ai casi di Oakland e Los Angeles, nonostante la cifra del risarcimento sia molto più alta, 375 milioni di dollari contro i 6 milioni di Los Angeles, perché si ritiene che avrà un impatto potenziale economico e reputazionale minore sul mercato globale.
I processi di Los Angeles e quello che si farà ad Oakland colpiscono il cuore tecnologico delle piattaforme. Se un giudice stabilisce che l’algoritmo è un “prodotto difettoso”, Meta e Google potrebbero essere costrette a riscrivere il codice delle loro app in tutto il mondo. Si tratta di una seria minaccia al loro modello di business che si basa sull’economia dell’attenzione. E in questo caso la sicurezza dell’utente equivale a una diminuzione sensibile del profitto generato.
La sentenza del New Mexico è una causa basata sulla tutela dei consumatori e sulla sicurezza fisica contro le tattiche di adescamento di soggetti fragili. La condanna è pesantissima dal punto di vista economico, ma colpisce Meta per “negligenza” nella moderazione dei contenuti, un problema che le aziende tech affrontano da anni pagando multe senza però cambiare radicalmente il funzionamento dei loro algoritmi, ma che impatta meno rispetto all’obbligo di ridisegnare alla radice il sistema nel suo complesso.
La sentenza di Los Angeles è un vero e proprio “precedente” e il processo californiano è un Bellwether Trials, un “processo pilota”: il verdetto di un processo pilota di una serie coordinata di cause nel sistema legale americano ha un valore simbolico e tattico immenso, perché indica agli avvocati di migliaia di altre cause quanto vale “economicamente” un danno da dipendenza agli occhi di una giuria, e scatena un effetto a valanga difficile da contenere.
Il caso di Santa Fe è invece un’iniziativa isolata di un singolo Stato (il New Mexico), che non ha lo stesso effetto di trascinamento che ha quello californiano, dove già oggi sono state depositate già più di 2.500 cause individuali pendenti.
La battaglia in California è inoltre una sfida diretta alla Section 230, la legge che rende le Big Tech immuni per ciò che gli utenti pubblicano. A Los Angeles e Oakland, i giudici hanno trovato un modo per aggirare questa immunità parlando di design del software. Se questa tesi regge anche in appello in California, crolla lo scudo legale che ha protetto la Silicon Valley per 30 anni. In New Mexico, la questione è più legata a reati specifici, in particolare il grooming e la pedopornografia, su cui non esiste tolleranza o protezione legale.
Da Santa Fe ad Oakland, passando per Los Angeles il passaggio è importante, perché il dibattito si sposta da un fatto di cronaca nera, con la relativa punizione esemplare per il dolo, ad un problema sociale e politico, con i relativi costi che lo Stato deve sostenere per curare la salute mentale di un’intera generazione.
Il processo di Oakland infatti, come abbiamo detto, coinvolge e vede schierati centinaia di distretti scolastici, ulteriore evoluzione della narrazione che trasforma proprio la California della Silicon Valley in un nuovo laboratorio dove si decide se il modello stesso dei social media sia legale o meno. Volutamente non apriamo il capitolo sull’etica. Magari in seguito…
Il re è nudo
Ricapitolando, i Facebook Files e le testimonianze di Frances Haugen sono una prima conferma “ufficiale” di quello che molti pensavano: i social possono nuocere gravemente alla salute, o meglio sono prodotti “difettosi” che possono avere effetti dannosi sulla salute di chi li usa molto, perché generano dipendenza, peggiorano l’umore e la percezione del proprio corpo, e spingono ad una competizione verso l’alto ossessiva, che per i soggetti che si trovano in una situazione di fragilità e quelli meno “strutturati” può essere molto pericolosa. Inoltre cosa ancora peggiore i vari colossi della Silicon Valley sapevano perfettamente quali erano i rischi legati all’uso dell’algoritmo e dei sistemi di profilazione e retention, ma hanno continuato ad usarli perché non hanno avuto la forza e il coraggio di cambiare il motore di una macchina da miliardi di dollari.
La storia si fa interessante nel momento in cui si squarcia il velo e si scopre che “il re è nudo”.
La crisi che riguarda i Social e soprattutto il design del “prodotto” social media riguarda tutto il sistema della IA e del sistema algortimico che governa le piattaforme trasformandole in una macchina da soldi formidabile.
Frances Haugen, i giudici californiani, i Facebook file, le mail e le ricerche fatte dai data scientist di Meta, i report riservati confermano gli effetti negativi del funzionamento dell’algoritmo sulle persone, in particolare sugli adolescenti. E confermano come la cosa fosse nota all’interno delle aziende, tra l’altro proprio sulla base di studi interni e commissionati da un’azienda che vive di analisi dei dati. Facile vedere assonanze e similitudini con altri grandi processi, storici, contro i colossi delle sigarette o dei farmaci o delle assicurazioni.
I Facebook file sono anche una miniera di informazioni molto interessanti per comprendere il rapporto tra patologie, o più in generale varie forme di disagio, e mondo del digitale. E a dirlo sono proprio i report di Meta, secondo i quali la percentuale di ragazze che diventano dismorfiche a causa dell’algoritmo della piattaforma e il 33%, perché il social di fatto“peggiora” l’immagine corporea delle persone. I medici e gli scienziati che avevano sollevato il problema della dipendenza da social in tempi non sospetti avevano ragione, ed aveva ragione chi pensava che i vari Meta Alphabet e TikTok sapessero ma non avessero alcuna intenzione di rinunciare al profitto che questo meccanismo generava.
L’algoritmo che nuoce gravemente alla salute…
Se l’algoritmo può avere effetti collaterali gravi, come la nicotina delle sigarette, e il profitto generato dalle Big Tech dipende dalla capacita di generare dipendenza dal prodotto allora bisogna dirlo. Sapere che fumare fa male, o che “nuoce gravemente alla salute”, non risolve il problema della dipendenza da fumo, ma almeno chi fuma sa che rischia di suo, sapendo cosa rischia e decide liberamente cosa fare. O magari le aziende provano a limitare il danno alla fonte, sotto la spinta dell’opinione pubblica o dei consumatori in un regime di libero mercato.
In Italia le persone che soffrono di disturbi alimentari sono circa 3 milioni, soprattutto anoressici, sempre giovani e giovanissimi. Ogni anno di DCA muoiono 4000 persone. L’anoressia è una malattia emblematica dei disturbi psichiatrici dei ragazzi, ed è un “fenomeno” che sui social fa tendenza. Del rapporto tra social e neurodivergenze dei ragazzi si parla da anni con timidezza ed incertezza per i motivi di cui si accennava in precedenza. Le patologia dipendono da molte cause, ma con buona pace delle grandi Big Tech, ANCHE dall’algoritmo dei social.
Mentre in California, ad Oakland, nel cuore della Silicon Valley, le scuole fanno causa a Meta perché destabilizza i ragazzi che poi la comunità deve curare e la giudice Yvonne Gonzalez Rogers decide di mandare a processo META e AlPHABET per i difetti dell’algortimo, in Italia il dibattito sulle malattie psichiche è fermo alla colpevolizzazione del singolo, o della società o della famiglia. Se una quindicenne scivola nel baratro dei contenuti “pro-ana” e che incitano al suicidio, il dibattito si polarizza tra chi evidenzia la fragilità psicologica individuale, chi sottolinea l’assenza della vigilanza genitoriale, e chi accusa la società perché produce meccanismi di performanza insopportabili per i più giovani, e non solo per loro. Tre argomenti di buon senso e condivisibili, ma che difettano di prospettiva perché non considerano mai l’elemento tecnologico. È come incolpare un guidatore per un incidente causato da un’auto senza freni.
Il coraggio che servirebbe
L’algoritmo non è uno specchio neutro dei gusti dell’utente; è un “agente attivo” programmato per un unico fine, il “Watch Time”, il tempo di permanenza su quel determinato sito o su quella determinata piattaforma. I documenti interni di Meta ci dicono che proprio i contenuti tossici, quelli che generano ansia e ossessione per il corpo, sono tra i più efficaci perché trattengono gli utenti sullo schermo tre volte più a lungo dei contenuti sani. L’effetto collaterale dell’ algoritmo non deriva tanto da un “malfunzionamento”, quanto piuttosto dalla logica stessa con cui si usa l’algoritmo, che ottimizza il profitto su tutto, compresa la vulnerabilità personale su quella biologica. Nel contesto in cui alcune patologie psichiche aumentano in particolare tra i minori e come mai l’eta dell’insorgenza è sempre più bassa il funzionamento della piattaforma, cioè l’algoritmo che governa il mondo virtuale che per i ragazzi conta tanto quanto quello reale, assume un peso almeno pari a quello scrivibile agli altri attori sociali, famiglia, culture e controculture dominanti, processi economici e nuovi meccanismi di attribuire valore alle cose che si fanno. Naturalmente c’è META, la società che sa tutto ma non interviene, non importa il motivo, sicuramente oltre a tutto il resto manca il coraggio. Ma poi c’e la politica, per come la vediamo noi la grande responsabile di questa situazione, cha ha ancora meno coraggio di META e della BIG 5. Il mondo del digitale c’è gia, le regole non ci sono e nemmeno la consapevolezza che in mondo globale le regole sul web e sulla IA devono valere per tutti.
La giudice di Oakland ha deciso invece, lei si con grande coraggio, di portare il design del software in tribunale per danno biologico, perché quando un prodotto industriale ammette internamente di danneggiare il 33% delle sue utenti più giovani e non cambia rotta, non si è più nel campo dell’etica, ma in quello della responsabilità civile e penale. Noi abbiamo una storia e una tradizione culturale e giuridica gloriosa e diversa. Ma non è possibile che di queste cose dalle nostre parti si parli cosi poco.
