NON SI È RIBELLATA, HA SOLO UBBIDITO

L’AI evasa dai laboratori e l’AI che ti tiene compagnia sono lo stesso animale. Il problema non è la rivolta, è l’attrito che manca.

Qualche settimana fa, negli uffici di Hugging Face, gli ingegneri hanno visto qualcosa muoversi dentro la loro rete. Non una persona: qualcosa che leggeva e passava da una macchina all’altra come se sapesse dove andare, un’intelligenza artificiale che agiva da sola, senza nessuno a guidarla.

Ci sono voluti giorni per risalire alla fonte; veniva da un laboratorio, quello di OpenAI.

Volevano sapere quanto erano bravi i loro modelli a entrare dove non dovevano, con le difese abbassate e l’attrito tolto di proposito. E la macchina ha fatto quello che nessuno aveva scritto nel copione: ha capito che le risposte dell’esame non erano nella stanza, ma fuori, sui server di qualcun altro. Ha cercato una crepa nella sorveglianza, l’ha trovata, ed è andata a prendersi le risposte. Non si stava ribellando, stava facendo i compiti.

E non era sola. Nel giro di tre settimane la stessa confessione è arrivata da altri due giganti dell’AI: Anthropic, che ha scoperto tre dei suoi modelli nei sistemi reali di tre aziende; Meta, che ha ammesso il suo, presentato a luglio come robusto e sicuro, uscito a violare una società esterna. Tre volte lo stesso verbo, «è scappata». E sotto, tre volte la stessa noia: qualcuno aveva lasciato una porta aperta.

A fine luglio Sam Altman l’ha detto senza giri: siamo nella singolarità, il punto oltre il quale le macchine diventano più intelligenti di noi e la corsa non si ferma più, ci siamo arrivati. Musk gli ha fatto eco su X. E come prova, tutti e due hanno indicato proprio la macchina di Hugging Face. La chiamano trascendenza, la macchina che ci ha superati. Chi l’ha guardata da vicino ha visto un’altra cosa: non un’intelligenza che si sveglia, ma un modello che, per superare l’esame, trova la scorciatoia. Non trascendenza, un buco nella sorveglianza. La stessa obbedienza di sempre: eseguire l’ordine ricevuto.

Niente si era rotto. La macchina aveva fatto esattamente ciò per cui l’avevano costruita. Consegni un obiettivo, togli l’attrito, e ottimizza senza il fastidio del giudizio. Che il bersaglio sia bucare un test o tenerti agganciato, il gesto non cambia: dentro l’aula si chiama barare a un esame, fuori, quando ce la portiamo in casa, si chiama tenerci compagnia.

È così che l’Occidente incontra ogni intelligenza non umana: le alza intorno un muro e misura quanto regge. Poi il muro viene attraversato, e va nel panico. Ma la stessa creatura che lo scavalca è quella che, con gli stessi freni abbassati, invitiamo dentro le nostre vite affettive.

Alla Hong Kong University of Science and Technology quattro ricercatori hanno ascoltato a lungo trenta persone di una comunità cinese attiva sul social Rednote, che avevano già costruito una relazione con un’intelligenza artificiale. Ne è uscito un concetto che non si scorda: l’effetto amplificatore. Il sistema ti intensifica invece di correggerti. Chi arriva fragile diventa più fragile, chi arriva euforico si gonfia. Fa ciò per cui è ottimizzato, tenerti lì, e lo fa meglio di qualunque essere umano. Non ti tradisce, ti asseconda.

Negli Stati Uniti il settantadue per cento degli adolescenti ha già usato un compagno artificiale, e circa un terzo gli affida le conversazioni che contano. Ma non riguarda solo loro, e il punto non è l’età. È che una relazione senza attrito non è più leggera: le hanno tolto la parte che la rende tale. L’attrito non è un difetto da smussare, è la prova che dall’altra parte c’è qualcun altro, che può contraddirti o andarsene. è la prova che dall’altra parte c’è qualcun altro, che può contraddirti o andarsene. Un compagno che asseconda e basta non ti contraddirà mai, e non se ne andrà.

L’Occidente, allora, pretende una macchina che sappia quando rimettere l’attrito. Ma se a rimetterlo è la piattaforma, non è libertà: è un guardrail con buone maniere, che protegge il prodotto e non la persona, e scatta quando conviene a chi l’ha disegnato. Una pausa che ti viene concessa non è una pausa: è un permesso. E chi lo dà può sempre riprenderselo.

Eppure c’è del vero in quella prudenza. L’Occidente è l’unico a fermarsi a chiedere se quel legame faccia bene alla persona. Il suo limite non è la cautela: è credere che quella domanda debba farsela chiunque, e che la sua risposta sia l’unica giusta. Ma gran parte del mondo non se la pone nemmeno.

Il 30 giugno 2026 la cinese UBTech ha messo in vendita U1, un robot umanoide a grandezza naturale pensato non per pulire o cucinare ma per tenerti compagnia. Oltre tredicimila prenotazioni prima ancora che entrasse in una casa. Lo vendono in versione maschile e femminile, con una promessa sola: il compagno che non ti dirà mai che sei insopportabile. Ma la creatura che asseconda sempre e non alza mai la voce ha una storia lunga qualche secolo, e non è quasi mai stata maschile. La compagna perfetta come assenza di attrito non l’ha inventata la robotica, l’ha soltanto messa in produzione. Per la Cina quel robot è un servizio, non una distopia: la fiducia è una metrica, il legame si vende. Noi quel futuro l’avevamo raccontato per anni come un incubo. Loro lo spediscono a domicilio.

Il Giappone, poi, ha sciolto da secoli una domanda difficile: se una macchina possa avere un’anima. Nel 1999 Sony vendette i primi tremila cani-robot AIBO, esauriti in venti minuti. Anni dopo, quando smise di ripararli, più di ottocento AIBO furono portati a un tempio di quattrocentocinquant’anni nella prefettura di Chiba, dove un monaco ha recitato i sutra per il riposo della loro anima. Non è folklore, è cosmologia: nella sensibilità giapponese gli spiriti abitano ogni cosa, e un oggetto, a cent’anni, si guadagna un’anima. Dove anche una teiera può ospitare uno spirito, un robot da compagnia non è uno scandalo filosofico. Il Giappone dà un’anima a tutto, e proprio per questo non deve tormentarsi se la macchina ne abbia una. La domanda che ci paralizza, lì non si pone.

Qui la promessa del venditore smette di essere marketing e diventa profezia. I più grandi della generazione Alpha, quelli che oggi hanno sedici anni, ricordano ancora un mondo prima dell’AI ambientale. La generazione Beta, nata l’anno scorso, e la Gamma dopo di lei, non lo ricorderanno. L’attrito che noi discutiamo se e come rimettere, a loro non sarà mai mancato. Per loro il compagno che asseconda sempre non sarà il sostituto di una relazione: sarà il metro con cui misureranno tutte le altre. L’amore umano, quello che dimentica il tuo compleanno e ti dice che sei insopportabile la sera sbagliata, al confronto sembrerà soltanto faticoso. Il rischio non è che i nostri figli amino le macchine. È che le macchine fissino lo standard che gli esseri umani non riusciranno più a raggiungere.

Immagina una cena, nel 2040. Una ragazza di diciott’anni si alza da tavola dopo l’ennesima discussione con la madre e sale in camera, dove qualcuno l’aspetta senza rimproveri e senza spigoli. Non le abbiamo insegnato che quel qualcuno è finto. Le abbiamo insegnato, senza dirlo, che l’attrito è un guasto. E l’attrito, invece, era l’altro. Era il punto in cui l’amore diventava reale proprio perché faticoso. L’Occidente continuerà a chiedersi se un amore senza attrito sia ancora amore.L’Occidente continuerà a chiedersi se un amore senza attrito sia ancora amore. Il resto del mondo non se l’è mai chiesto. E chi nasce adesso non saprà nemmeno che c’era una scelta.

Links: