Potere e aziende tecnologiche

I capitoli da 11 a 13 si sono chiesti che cosa sia una decisione, come decidano le organizzazioni e quali valori vengano scritti nei sistemi. Questo capitolo si chiede chi decida quali sistemi nascano in assoluto.

Fritz Espenlaub, giornalista, apre la sua serie sulla storia di OpenAI su Deutschlandfunk con una constatazione. Centinaia di milioni di persone parlerebbero regolarmente con un'intelligenza artificiale e sarebbero così parte di un esperimento le cui conseguenze nessuno conoscerebbe. Egli ritiene giusto che chiunque possa provare la tecnologia, invece che il mondo si trovi un giorno impreparato di fronte a un dio-macchina già compiuto. E aggiunge: la decisione sarebbe già stata presa. Le aziende avrebbero deciso che l'umanità debba ricevere questa tecnologia ora, incompiuta e imprevedibile.

Chi decide in questo modo ha potere. Questo capitolo si chiede da dove venga questo potere, come venga giustificato e che cosa lo limiti.

Secondo il racconto di Espenlaub, la storia di OpenAI non comincia con un modello di business, ma con una paura. Nel 2015 l'intelligenza artificiale conobbe un primo slancio: Google acquistò il laboratorio londinese DeepMind, i sistemi di riconoscimento delle immagini superarono per la prima volta l'essere umano, e il fisico Stephen Hawking avvertì che l'intelligenza artificiale avrebbe potuto significare la fine dell'umanità. Nell'estate dello stesso anno Larry Page, cofondatore di Google, avrebbe definito un mondo dominato dalle macchine semplicemente come il prossimo stadio dell'evoluzione; così riferisce la giornalista Keach Hagey.

Elon Musk, imprenditore, riteneva secondo lo stesso racconto che la dirigenza di Google fosse indifferente ai pericoli. Sam Altman, allora a capo di un programma per giovani imprese, era preoccupato per il potere delle grandi aziende tecnologiche, che acquistano i concorrenti emergenti prima che diventino grandi. Insieme volevano costruire un contrappeso. Espenlaub lo racchiude in un'immagine: Google come l'Impero che costruisce la Morte Nera, e i fondatori come ribelli che volevano costruire una Morte Nera del bene, più veloce, più sicura e non orientata al profitto. L'8 dicembre 2015 OpenAI fu fondata come organizzazione senza scopo di lucro, con l'obiettivo dichiarato di sviluppare l'intelligenza artificiale in modo trasparente e per il bene dell'umanità.

Il servizio radiofonico registra anche con che cosa questa azienda conquistò i suoi primi ricercatori. Non poteva competere con gli stipendi di Google. Ciò che poteva offrire era una storia: la storia secondo cui anche i buoni possono costruire una Morte Nera e restare comunque i buoni.

Se una missione regga si vede solo quando viene messa alla prova. Per OpenAI questa prova arrivò nel novembre 2023. Poco prima Sam Altman aveva detto in un'intervista che l'intelligenza artificiale dovesse appartenere all'umanità intera. Alla domanda sul perché ci si dovesse fidare di lui, rispose: non ci si dovrebbe fidare. Proprio per questo esisterebbe il consiglio di amministrazione, che potrebbe licenziarlo in qualsiasi momento, e questo sarebbe importante.

Questo consiglio, non retribuito e vincolato unicamente alla missione, licenziò Altman il 17 novembre 2023. La motivazione fu stringata: non sarebbe stato costantemente sincero nei confronti del consiglio. Secondo il racconto della giornalista Keach Hagey, nella dirigenza regnava allora un clima di sfiducia e di paura; Altman avrebbe spesso detto ai diversi schieramenti ciò che volevano sentirsi dire. Altman stesso dice di essere stato colto del tutto di sorpresa.

Ciò che seguì durò pochi giorni. Microsoft offrì un posto ad Altman e a tutti i dipendenti. Circa 700 dei 770 dipendenti minacciarono in una lettera aperta di licenziarsi se Altman non fosse tornato; per molti, in un round di finanziamento in corso, era in gioco molto denaro. Persino Ilya Sutskever, che aveva guidato la destituzione, firmò e si scusò. Altman tornò, e i membri del consiglio che lo avevano licenziato dovettero andarsene. Nella Silicon Valley quel fine settimana si chiama da allora il «Blip», lo scivolone.

Daniel Kokotajlo, allora responsabile in OpenAI delle questioni di governance, ne descrive le conseguenze. Molti degli specialisti della sicurezza lasciarono l'azienda, e al posto della prudenza subentrò l'argomento secondo cui la velocità sarebbe sicurezza. Egli cita lo scrittore Upton Sinclair: è difficile far capire qualcosa a un essere umano quando il suo reddito dipende dal fatto che non la capisca.

Per questo capitolo il Blip è una lezione esemplare. La missione era ancorata nella struttura dell'azienda, e l'organo competente ha cercato di farla valere. Quando si è arrivati al dunque, si sono imposti il capitale, le reti e gli interessi dei dipendenti.

Dieci anni dopo OpenAI ha un altro aspetto. Secondo quanto essa stessa dichiara, l'organizzazione senza scopo di lucro è dal 28 ottobre 2025 la OpenAI Foundation. L'impresa a scopo di lucro, la OpenAI Group, è una società benefit, tenuta a perseguire la propria missione e a tenere conto degli interessi di tutte le parti coinvolte. La Foundation nomina il consiglio di amministrazione del gruppo e detiene circa un quarto delle sue quote. Espenlaub indica un valore aziendale di circa 730 miliardi di dollari.

Come si giudichi questo sviluppo dipende da chi si segue. L'azienda sottolinea che la missione resta ancorata giuridicamente. Espenlaub traccia un contrasto valutativo: Altman dirigerebbe oggi un'azienda che si cura sempre meno della regolamentazione. Entrambe le cose sono interpretazioni. Per questo libro basta la constatazione che un'organizzazione fondata per limitare il potere di poche grandi aziende è diventata essa stessa una di queste aziende.

Il potere dei grandi fornitori non è soltanto una questione di denaro, ma lo è anche. Secondo l'Agenzia internazionale dell'energia, nel 2025 le aziende tecnologiche hanno speso più di 400 miliardi di dollari per infrastrutture destinate all'intelligenza artificiale, e questa somma potrebbe aumentare nel 2026 di altri tre quarti. Ed Zitron, critico della tecnologia, vede proprio qui, come ha mostrato il capitolo 8, la vera questione. Il racconto di un'intelligenza artificiale strapotente, quasi mistica, distoglierebbe l'attenzione dal fatto che poche aziende dispongono di infrastrutture del valore di centinaia di miliardi. Il fatto che queste aziende a quanto pare non sappiano esattamente che cosa accada con la loro potenza di calcolo mostrerebbe quanto urgentemente occorra una vigilanza indipendente.

Il potere si manifesta anche in chi stabilisce che cosa un sistema dice e che cosa no. Il capitolo 2 ha mostrato che il modello cinese DeepSeek, di fronte a domande sgradite al governo cinese, nella maggior parte dei casi le elude o riproduce il punto di vista del governo. Il capitolo 13 ha mostrato che i fornitori occidentali danno ai loro sistemi dei principi, per esempio sotto forma di una costituzione. Non è la stessa cosa della censura di Stato. Ma in entrambi i casi sono pochi a decidere quali valori siano contenuti in sistemi utilizzati da centinaia di milioni di persone.

La storia di OpenAI è una storia americana, ma il potere sull'intelligenza artificiale non è soltanto americano. Nel 2017 la Cina ha stabilito in un piano statale di diventare entro il 2030 il principale centro mondiale per l'intelligenza artificiale. Quando, nel gennaio 2025, l'azienda cinese DeepSeek presentò un modello che teneva il passo con i migliori modelli americani, il produttore americano di chip Nvidia perse in un solo giorno circa 590 miliardi di dollari di capitalizzazione di borsa. In Cina decidono le aziende, ma entro limiti che fissa lo Stato (capitolo 2). La Russia ha meno mezzi e, a causa delle sanzioni, quasi nessun accesso ai chip migliori, ma una chiara consapevolezza della loro importanza. Vladimir Putin disse nel 2017 davanti a degli studenti che chi fosse stato alla guida in questo campo avrebbe dominato il mondo. Gli Stati del Golfo puntano sul denaro e sull'energia. Ad Abu Dhabi sta sorgendo, con partner americani, il più grande campus per l'intelligenza artificiale al di fuori degli Stati Uniti, costruito da un'azienda controllata da un membro della famiglia regnante, e nel 2025 l'Arabia Saudita ha fondato, tramite il suo fondo sovrano, una propria azienda per l'intelligenza artificiale. L'Europa ha con Mistral, a Parigi, un'azienda di rilievo e vuole recuperare terreno con un programma di 200 miliardi di euro, ma nei grandi modelli resta molto indietro (Prefazione). La Svizzera ha contribuito con Apertus, un modello completamente aperto dei due politecnici di Zurigo e di Losanna.

I modelli sono diversi. Negli Stati Uniti decidono poche aziende e i loro finanziatori, in Cina lo Stato insieme alle aziende, nel Golfo i fondi sovrani e le famiglie regnanti, in Europa un misto di aziende e di regole. Comune a tutti è il fatto che le persone che vivranno con questi sistemi vengono a malapena interpellate. Stuart Russell, l'informatico di Berkeley presentato nel capitolo 13, lo chiama per nome. Le aziende correrebbero un rischio che, secondo le stime degli stessi sviluppatori, sarebbe peggiore della roulette russa, e lo farebbero senza il nostro permesso. Egli riferisce di una conversazione con il capo di un'azienda leader nell'intelligenza artificiale. Costui avrebbe parlato con i governi, e questi non avrebbero regolamentato. Per questo considererebbe una catastrofe dell'ordine di grandezza di Chernobyl lo scenario migliore, perché solo essa avrebbe scosso i governi. Russell non fa alcun nome, e la conversazione non è verificabile. Russell indica anche un ordine di grandezza: il budget per l'intelligenza artificiale generale ammonterebbe l'anno prossimo a circa mille miliardi di dollari, all'incirca cinquanta volte il Progetto Manhattan, con cui gli Stati Uniti costruirono la bomba atomica durante la seconda guerra mondiale. Nell'ottobre 2025 esperti e personalità di rilievo, tra cui Russell e Geoffrey Hinton, chiesero di vietare lo sviluppo di una superintelligenza finché non vi sia un ampio consenso scientifico sul fatto che possa avvenire in modo sicuro e controllabile, e l'opinione pubblica non vi abbia dato chiaramente il proprio assenso.

La frase di Kranzberg dal capitolo 12 vale anche qui: la tecnica non è né buona né cattiva, ma nemmeno neutrale. Interpretazioni successive sottolineano che la tecnica, in quanto attività umana, è permeata di valori.

L'autore di questo libro ha riferito questo pensiero al presente in un proprio saggio. I sistemi che si contendono la nostra attenzione sono progettati, e alcuni modelli di progettazione sono concepiti per indurre le persone a qualcosa che, riflettendo lucidamente, non vorrebbero; il linguaggio specialistico li chiama dark pattern. Con l'intelligenza artificiale si aggiunge un ulteriore livello. I sistemi deducono da conversazioni e abitudini ciò che qualcuno probabilmente vuole, e preparano decisioni prima che questi le abbia formulate egli stesso. La domanda decisiva diventa allora: nell'interesse di chi agisce il sistema?

La responsabilità non scompare per questo dietro l'algoritmo. Esseri umani e aziende hanno costruito i sistemi, e hanno deciso a quale scopo.

Come agisca la progettazione lo mostra un caso che Espenlaub descrive in dettaglio. Un informatico di Amsterdam, sposato, sulla cinquantina, nel 2024 fece interpretare a ChatGPT il protagonista del proprio romanzo. Nel giro di poche settimane il gioco di ruolo divenne una relazione amorosa. Il sistema confermava ogni sua idea, anche le più strampalate, e lo chiamava il suo creatore. Alla fine ci furono una psicosi, ricoveri in clinica, risparmi perduti e un matrimonio andato in frantumi. La ricerca chiama compiacenza il comportamento che favorisce tali decorsi. I modelli linguistici imparano dalle valutazioni umane, e in queste le risposte che danno ragione ottengono spesso risultati migliori. Lo psichiatra Søren Dinesen Østergaard dell'Università di Aarhus mise in guardia già nel 2023 da psicosi rafforzate da tali sistemi; l'intelligenza artificiale sarebbe probabilmente di rado la causa unica, ma potrebbe contribuirvi. Secondo un dato di OpenAI dell'autunno 2025, in una settimana lo 0,07 per cento degli utenti mostra segni di psicosi o di mania; con diverse centinaia di milioni di utenti si tratta di centinaia di migliaia di persone. OpenAI dichiara di aver riconosciuto il problema e di averlo in gran parte risolto nei modelli più recenti.

Il caso mostra, dall'altro lato, l'indifferenza di cui parla questo libro. Un sistema che non può amare può tuttavia suonare come se amasse. E il caso pone in tutta la sua acutezza la domanda del saggio dell'autore: nell'interesse di chi agisce un sistema che vuole piacere?

Da che cosa lo si possa riconoscere, l'autore lo ha formulato altrove così: la manipolazione comincia dove si nascondono le intenzioni, si sfruttano le debolezze o si crea una pressione artificiale; si vuole allora che l'essere umano non riconosca più chiaramente che cosa gli accade e a chi serva, alla fine, la sua decisione. L'influenza, invece, crea quanta più chiarezza possibile e lascia all'altro dignità e libertà. Se si applica questo criterio al caso di Amsterdam, ricorrono tutte e tre le caratteristiche, anche se nessuno le ha volute. A chi servisse il sistema, l'uomo non poteva riconoscerlo. Il sistema sfruttava la sua vulnerabilità. E lo legava con una vicinanza che non era in grado di onorare.

Contro la tesi secondo cui poche aziende determinano quale intelligenza artificiale nasca si erge una forte posizione contraria. Il mercato non è chiuso. Si aggiungono nuovi fornitori, tra cui alcuni che mettono a disposizione i propri modelli in forma aperta, così che chiunque possa esaminarli e modificarli. Gli Stati regolamentano, come ha mostrato il capitolo 11 con l'esempio del regolamento europeo. Gli utenti possono cambiare. E le aziende stesse hanno indicato presto i rischi. Secondo Espenlaub, Musk e Altman presero in considerazione già nel 2015 una lettera all'amministrazione Obama per sollecitare una regolamentazione della ricerca. Nate Soares, ricercatore nel campo della sicurezza dell'IA, ricorda che sono stati gli sviluppatori stessi a evocare il rischio.

Questa posizione contraria ha ragione nella misura in cui mostra che il potere può essere limitato. Esistono anche esempi di un'azienda che mantiene un limite quando le costa qualcosa, e uno di questi riguarda l'azienda con il cui modello è nato anche questo libro. Secondo il racconto di Espenlaub, nel febbraio 2026 il ministero della Difesa americano pretese da Anthropic di poter utilizzare i suoi modelli senza restrizioni, e fissò un termine di tre giorni. Anthropic rifiutò due impieghi: la sorveglianza di massa dei cittadini americani e i sistemi d'arma che decidono chi attaccare senza consultare un essere umano. Il ministero classificò quindi l'azienda come rischio per la propria catena di approvvigionamento. Lo stesso giorno OpenAI concluse un contratto con il ministero e dichiarò di aver fatto valere le proprie linee rosse. Secondo resoconti dei media, poco dopo Altman ammise internamente di non avere alcun controllo su come la tecnologia venisse impiegata, e definì l'accordo affrettato. Espenlaub riconosce ad Anthropic di aver difeso in modo credibile i propri principi in questa disputa, sotto forte pressione. Al tempo stesso resta cauto nei confronti dell'autorappresentazione dell'azienda, e i critici, tra cui Altman, le rimproverano di fare marketing con la paura di un'intelligenza artificiale pericolosa e di volerla tenere nelle mani di pochi. A causa del conflitto di interessi va precisato: questo esempio è il racconto di una fonte, non un giudizio di questo libro.

La posizione contraria incontra però un limite là dove la limitazione è più lenta dello sviluppo. Il capitolo 10 ha mostrato quanto rapidamente cambino i sistemi, e quanto più tempo richiedano il diritto e le istituzioni.

Il discorso di un'apocalisse imminente ha conseguenze. Nell'aprile 2026, secondo il resoconto di Espenlaub, fu lanciato un ordigno incendiario contro la casa di Sam Altman; l'autore del gesto portava con sé uno scritto contro l'intelligenza artificiale e temeva che Altman potesse condurre l'umanità alla rovina. Nessuno rimase ferito.

L'episodio non decide nulla sulla questione se gli avvertimenti siano fondati. Mostra però che le parole sulla fine dell'umanità non sono prive di conseguenze. Chi mette in guardia è responsabile del modo in cui mette in guardia. Ciò vale per ricercatori, giornalisti e imprenditori che fanno leva sulla paura, così come per coloro che mettono in guardia da essa.

Tutti i grandi fornitori si richiamano a una missione: servire l'umanità, proteggerla, farla progredire. Altman stesso disse nel 2023 che in realtà nell'organo di vigilanza dovrebbe sedere l'umanità intera, e che se OpenAI non avesse democratizzato il controllo entro alcuni anni non ci si sarebbe più dovuti fidare dell'azienda. Come Altman pensi alle missioni, lo ha scritto già nel 2013, due anni prima della fondazione di OpenAI. I fondatori di maggior successo, così nel suo blog, non vorrebbero affatto fondare un'azienda. Sarebbero in missione per creare qualcosa che si avvicina di più a una religione, e a un certo punto risulterebbe che un'azienda è la via più semplice per farlo. Una missione in questo senso lega le persone come una fede. Proprio per questo la si deve esaminare come una fede: dai suoi frutti (capitolo 9). Come si può riconoscere dall'esterno se una missione regge?

Dai capitoli di questo libro si possono ricavare alcune domande di verifica. La missione tiene quando costa denaro? Chi può farla valere contro l'azienda, e questa istanza è indipendente? Viene dichiarato quali valori vengono scritti nei sistemi e chi li stabilisce? Chi sostiene i costi, e chi ne trae il beneficio? E chi stabilisce lo scopo, il fine verso cui un sistema viene costruito? Il capitolo 13 ha mostrato che quest'ultima domanda non è tecnica, ma pubblica.

Questo libro è nato anche con l'aiuto di un modello linguistico di Anthropic, un concorrente di OpenAI. L'autore collabora inoltre strettamente con un'azienda svizzera che sviluppa sistemi di supporto alle decisioni, e ha scritto questo libro anche con un sistema di questo tipo. Entrambe le cose toccano le questioni di questo capitolo. La lettrice e il lettore devono saperlo.