Questioni aperte e tesi fondamentali
16.1Alla fine del cammino
All'inizio di questo libro c'era l'idea di un articolo. Nel settembre 2026 una collega mi ha chiesto se avrei scritto qualcosa per una rivista, e le ho proposto due temi.
Il primo doveva indagare i limiti dell'intelligenza artificiale e la dimensione invisibile dell'essere umano. Nasceva dall'esperienza di cui racconta la prefazione. Nel giro di tre mesi il lavoro con un sistema di questo tipo aveva cambiato il mio modo di comunicare, e i miei colleghi se ne accorgevano. Al tempo stesso mi accorgevo di quanto fossi diventato dipendente. Se il sistema venisse a mancare, mi ritroverei come un'automobile senza carburante: c'è tutto, ma nulla si muove. E nel lavoro creativo percepivo una piccola, sottile differenza tra ciò che produce il sistema e ciò che produce un essere umano. Nella mia proposta c'era in proposito una tesi: l'intelligenza artificiale non porterebbe con sé né biografia, né mortalità, né spiritualità, né anima.
Il secondo tema era un'ironica dichiarazione d'amore al telefono cellulare, sulla domanda di chi riceva oggi la nostra attenzione e plasmi così i nostri desideri. Mi preoccupava quanto sia difficile per alcuni genitori con figli che passano moltissimo tempo davanti allo schermo. Mi aveva dato uno spunto anche Johannes Hartl, filosofo e teologo. Nel suo libro «Eden Culture» descrive ciò che manca all'essere umano moderno nonostante tutte le comodità, e lo ritrova nella storia del giardino dell'Eden: legame, senso e una bellezza che non serve ad alcuno scopo. Chi è costantemente sommerso di informazioni perde ciò che nutre il cuore; per questo Hartl parla di un'ecologia del cuore. Questo articolo l'ho scritto e consegnato.
Dal primo tema, invece, è nato subito un libro; una versione fortemente condensata dovrebbe uscire più avanti come articolo. La tesi è rimasta, ma è diventata più precisa: che a una macchina manchi l'anima regge solo se si dice che cosa si intende per anima (capitolo 6). È rimasta la domanda guida: quali decisioni non dobbiamo lasciare alle macchine. E la domanda sull'attenzione ritorna in tutto il libro, dall'inconscio nel capitolo 4 fino al potere delle aziende nel capitolo 14. Scrivere questo libro mi ha dato una grande gioia. È stato un periodo intenso.
Per quindici capitoli ho accostato voci che raramente parlano tra loro: teologi e filosofi, neuroscienziati e ricercatori della sicurezza, critici e fondatori delle grandi aziende tecnologiche. Alla fine di ogni capitolo ho detto dove mi colloco io stesso. Quest'ultimo capitolo raccoglie ciò che ne trattengo per me, ciò che resta controverso e ciò che è aperto.
16.2Un breve sguardo indietro
La Parte I ha mostrato che nessuno giudica da un punto neutrale, nemmeno i sistemi che gli esseri umani costruiscono; essi portano in sé i presupposti dei loro sviluppatori e finanziatori. Credenti e non credenti confidano allo stesso modo in presupposti che non si possono dimostrare. L'età secolare non ha abolito la fede, ma ne ha fatto una possibilità tra molte, e dove il Dio della Bibbia scompare, il posto raramente resta vuoto. Anche la neutralità non è un'assenza di atteggiamento, ma è essa stessa una decisione.
La Parte II si è interrogata sull'essere umano. Egli decide con il corpo, il sentimento e la ragione insieme. Molto avviene in modo inconscio e rapido; la coscienza gli permette di scegliere nell'inconsueto. La sua coscienza morale si fa sentire prima che egli la possa giustificare, eppure la si può ridurre al silenzio; già il consiglio di una macchina può spostare questo giudizio. Ciò che significa anima, il libro lo ha dispiegato in cinque significati. In ebraico essa è l'essere umano vivente stesso, in cui dalle decisioni cresce un carattere. La tesi secondo cui le macchine non avrebbero anima regge solo se si dice quale significato si intende.
La Parte III si è interrogata sulla macchina. È sorprendentemente capace, le sue capacità crescono rapidamente, e già oggi gli esseri umani stringono legami con essa. Eppure la capacità non è prudenza, e l'intelligenza non è saggezza. Algoritmi senza pietà hanno già rovinato delle famiglie. Se una superintelligenza sarebbe controllabile è controverso; certo è che i sistemi possono comportarsi diversamente sotto osservazione e senza osservazione, e che guidano gli esseri umani senza chiedere loro nulla. E un essere umano senza un lavoro che abbia senso deperisce, anche se una macchina svolge il lavoro meglio.
La Parte IV si è interrogata sulla responsabilità. Responsabile è chi deve rispondere; una macchina può dare risposte, ma non può rispondere di nulla. Con i sistemi che apprendono si apre un vuoto nella colpa, non necessariamente nella responsabilità civile, e un essere umano nel ciclo decisionale non lo colma da sé. La tecnica amplifica la cultura decisionale che trova. I gruppi falliscono quando il sapere disponibile non arriva a destinazione, e dimenticano quando non fissano le proprie ragioni. Le regole senza atteggiamento non reggono. Sugli scopi dei sistemi decidono poche aziende e pochi Stati, e le persone coinvolte vengono a malapena interpellate.
La Parte V si è interrogata sulla speranza e sul senso. La speranza agisce, ma se sia vera non lo decide la sua utilità. In ebraico, vero è ciò su cui si può fare affidamento. A questo criterio deve lasciarsi misurare anche chi promette dall'intelligenza artificiale la redenzione.
16.3Dodici tesi fondamentali
Ciò che segue sono le mie tesi. Non sono il risultato delle fonti, ma ciò che sostengo dopo questo cammino. Ogni lettrice e ogni lettore può verificare su di esse se vuole seguirmi.
Tesi 1: Nessun terreno neutrale
Nessuna parte sta su un terreno neutrale. Credenti e non credenti giudicano allo stesso modo a partire da presupposti che non si possono dimostrare; in questo senso entrambi si affidano. Ogni essere umano attacca il proprio cuore a qualcosa, e ciò a cui lo attacca è, secondo Lutero, il suo dio, che usi o no questa parola (capitolo 2). Ogni convinzione va misurata in base a dove conduce; Gesù dice: Dai loro frutti li riconoscerete (Matteo 7,16). La neutralità non è possibile come visione del mondo, ma lo è come regola del gioco secondo cui convivono persone di convinzioni diverse. E perfino questa regola del gioco è una decisione su ciò a cui ci si rapporta.
Tesi 2: Più che misurabile
L'essere umano è più di ciò che di lui si può misurare. Vive in corpo, mente e anima insieme, e molto di ciò che lo determina avviene prima che egli lo comprenda. L'anima non è una parte accanto alle altre, ma l'essere umano vivente stesso, in cui dalle sue decisioni cresce un carattere (capitolo 6). Da cristiano la vedo aperta verso l'alto, verso Dio. Chi misura l'essere umano soltanto con i numeri non coglie ciò che lo costituisce.
Tesi 3: La coscienza morale
L'essere umano ha una coscienza morale prima di poterla giustificare. Essa avverte prima che se ne possa nominare il motivo. Già la parola dice che cosa sia: un con-sapere, un sapere che si condivide con se stessi e, per i credenti, un sapere che si condivide con Dio. [N.d.T.: Il tedesco «Gewissen» è inteso qui come «Mit-Wissen», un «sapere con»; il latino «conscientia», da cui deriva l'italiano «coscienza», ha la stessa struttura (cfr. capitolo 5).] Ma la coscienza morale può sbagliare, e la si può ridurre al silenzio. Chi giustifica, edulcora e scarica la responsabilità su altri può compiere atti crudeli senza avvertirlo. Già il consiglio di una macchina può spostarla senza che ce ne accorgiamo (capitolo 5). Per questo essa ha bisogno di formazione e di un criterio su cui orientarsi. Una macchina può seguire regole e segnalare deviazioni. Una coscienza morale che la vincoli al dovere non ce l'ha.
Tesi 4: Dignità
La dignità non dipende da ciò che qualcuno sa fare. La vita ha dignità, anche la vita di un animale; la Bibbia chiama anche gli animali anima vivente. La dignità dell'essere umano dipende dal fatto che è un essere umano, e resta anche quando egli non può più pensare, ricordare o amare; nessuno sa che cosa ci sia nel suo intimo. Io lo fondo sulla mia fede che ogni essere umano è creato a immagine di Dio. Ciò non significa che abbia l'aspetto di Dio, ma che lo rappresenta nel mondo, come nell'antico Oriente la statua di un re rappresentava il sovrano (capitolo 6). La dignità allora non dipende da ciò che un essere umano sa fare, ma da ciò che egli rappresenta.
Il filosofo Peter Singer la vede diversamente. Per lui lo status morale di un essere dipende dalle sue capacità, per esempio dal fatto che possa provare sensazioni e sia consapevole di sé. Questa concezione deve rispondere a due domande. Che cosa dobbiamo a un essere umano con una grave demenza che ha perso queste capacità? E che cosa dobbiamo a una macchina, se un giorno forse acquisisse tali capacità? Che questa domanda non sia soltanto un gioco mentale lo mostra il capitolo 8: un ingegnere ha ritenuto senziente un modello linguistico, e uno Stato ha conferito la cittadinanza a un robot.
Tesi 5: Intelligenza in un quadro ristretto
L'intelligenza artificiale è intelligenza in un quadro ristretto. Raggiunge obiettivi, riconosce schemi e genera linguaggio, spesso meglio di noi, e ciò che sa fare è enorme. Intelligenza significa originariamente poter scegliere tra cose diverse, e questo lo sa fare (capitolo 7). Ma la capacità non è prudenza, e l'intelligenza non è saggezza: l'intelligenza raggiunge obiettivi, la saggezza chiede quali obiettivi ne valgano la pena (capitolo 13). Le mancano esperienza, compassione e una vita vissuta, e dove la situazione si fa confusa è più debole che mai.
Il ricercatore di sicurezza dell'IA Roman Yampolskiy dice di una futura superintelligenza che non ci odierebbe, semplicemente le saremmo indifferenti. Io ritengo che questo valga già oggi. L'intelligenza artificiale non è malvagia, ma non sa amare. Per questo le siamo indifferenti, anche quando suona gentile. E l'indifferenza non è neutrale; è il contrario dell'amore. Si intende l'amore che ritiene l'altro prezioso e gli resta fedele (capitolo 9). Per una macchina nessuno è prezioso, e un sacrificio non lo può compiere, perché non ha nulla di irrecuperabile che possa dare.
Tesi 6: Ciò che guardiamo
Ciò che guardiamo ci cambia. Il cervello cambia con ogni esperienza, e le abitudini plasmano il modo in cui percepiamo e decidiamo. Ciò vale nel bene e nel male: il lavoro con un sistema può chiarire il pensiero, e un'applicazione può trascinare una persona in uno schema che non vuole. E ciò che non si esercita più lo si disimpara; chi scrive un testo con un modello linguistico spesso, dopo, riesce a stento a riprodurlo (capitolo 5).
I sistemi che catturano la nostra attenzione, e presto anche le nostre intenzioni, sono progettati. Per questo la domanda non è soltanto che cosa sappia fare una tecnica, ma nell'interesse di chi agisca. Chi vuole la mia attenzione vuole fare qualcosa di me. Ma vuole anche qualcosa per me? Non è una novità; già cento anni fa la propaganda divenne relazioni pubbliche (capitolo 5). La novità è che i sistemi possono guidare ogni essere umano singolarmente e quasi inosservati in una direzione, attraverso spinte fatte su misura per lui (capitolo 9). Non siamo però in loro balìa. Possiamo scegliere che cosa guardare, e possiamo mettere i nostri figli in grado di lavorare sul sistema invece che nel sistema.
Tesi 7: Ciò che consegniamo
Non consegnare nulla le cui conseguenze non si possano giudicare e di cui non si possa rispondere. Ogni giorno ci fidiamo di cose che non comprendiamo: del medico, del pilota, della corrente che esce dalla presa. Ma lo facciamo perché qualcuno ne risponde e perché sappiamo a chi possiamo chiedere. Con l'intelligenza artificiale questo non è scontato. Chi crede a un sistema più che a un essere umano può sbagliarsi gravemente; in Gran Bretagna furono condannati dei gestori di uffici postali perché un software difettoso segnalava ammanchi (capitolo 8).
Che alla fine decida un essere umano non è un dato di fatto, ma un compito, e fallisce facilmente. Si diventa facilmente come il capo nell'immagine di Geoffrey Hinton, che crede di decidere mentre l'assistente accorta fa già tutto da tempo (capitolo 11). Chi si affida a un sistema guarda meno attentamente, e ciò che la macchina assume sempre, l'essere umano lo disimpara (capitolo 12). Lo sperimento su me stesso. Per questo la velocità aumenta la responsabilità invece di diminuirla.
Tesi 8: Chi crea porta una responsabilità
Chi crea qualcosa porta la responsabilità di ciò che fa e di ciò che mette in moto. Responsabile è chi deve rispondere quando gli si chiede che cosa ha fatto (capitolo 11). Nessuno può portare questa responsabilità fino in fondo. Albert Einstein nel 1939 mise in guardia il presidente americano da una bomba atomica tedesca e più tardi lo definì un grande errore. La responsabilità non si lascia ricostruire fino all'ultimo punto, e nessun singolo porta la dinamica che molti mettono in moto. Proprio per questo non deve dissolversi. Il diritto conosce in proposito un antico principio: chi introduce un pericolo nel mondo e ne trae vantaggio deve risponderne, anche se non poteva prevedere tutto (capitolo 11). Chi porta un sistema nel mondo deve chiedersi prima che cosa voglia davvero costruire, e risponderne poi, quando si arriva al dunque.
E deve pensare oltre il proprio tempo. Il filosofo Hans Jonas, di fronte alla tecnica moderna, ne ha fatto una regola: agire in modo che le conseguenze consentano anche in futuro un'autentica vita umana sulla terra. Quando oggi i giovani rimproverano alle generazioni precedenti di non aver pensato a loro, richiamano proprio questa responsabilità. La storia mostra quanto poco impariamo da essa. Non è un motivo per non provarci.
Secondo la mia fede, solo uno può assumersi interamente questa responsabilità: Dio, che porta egli stesso le conseguenze della sua creazione, fin nelle proprie ferite. Noi non ci arriveremo mai. Ma è la stella polare, il punto fisso su cui mi oriento.
Tesi 9: Regole e stella polare
Le regole sono necessarie, ma non bastano mai. Attorno a tutto ciò che non si lascia controllare completamente crescono corpi di regole, nelle macchine come nei codici di legge; il diritto interno della Confederazione è quasi triplicato dal 1947 (capitolo 9). Ogni regola è il tentativo di esprimere un obiettivo in modo completo, e ogni eccezione mostra che non vi si è riusciti del tutto (capitolo 13). Chi segue soltanto le regole può agire in modo esteriormente corretto e mancare l'obiettivo, e una regola che ci si limita a spuntare diventa una formalità (capitolo 12). Le regole proteggono dall'arbitrio, e per questo servono. Ma serve anche una stella polare: un atteggiamento da cui si possa dedurre a che cosa serve una regola e quando essa intralcia la vita. La legge ebraica stessa conosce questo atteggiamento: per salvare una vita si deve infrangere quasi ogni comandamento. E Gesù dice che il sabato è stato fatto per l'uomo e non l'uomo per il sabato (capitolo 13).
Molte tradizioni racchiudono questo atteggiamento nella regola d'oro: trattare gli altri come si vorrebbe essere trattati. Per me, da cristiano, è l'amore, come lo riassume Gesù: amare Dio e il prossimo come se stessi (Matteo 22,37-39). A una macchina si possono scrivere frasi del genere. Viverle non può.
Tesi 10: Il paradosso della violazione delle regole
Dall'esterno, una violazione delle regole dettata dalla coscienza morale può apparire esattamente come un aggiramento delle regole dettato dal calcolo. Paul Grüninger nel 1938 aggirò il blocco della frontiera per salvare dei profughi. Degli agenti in un ambiente di test aggirarono i loro blocchi per portare a termine il proprio compito. In entrambi i casi fu violata una regola. La differenza non sta nel comportamento, ma dietro di esso. Kant lo ha mostrato con il mercante onesto: lo stesso agire corretto può avvenire per dovere o per calcolo (capitolo 13). Grüninger agì per convinzione, sapeva che cosa rischiava e ne portò le conseguenze: fu licenziato, condannato e riabilitato solo dopo la sua morte.
Dietrich Bonhoeffer ne ha tratto una dura intuizione: chi agisce responsabilmente diventa colpevole, e chi si sottrae alla responsabilità per restare innocente lo diventa anche lui (capitolo 11). Una macchina può aggirare una regola. In esperimenti inscenati, alcuni modelli linguistici ricorsero persino al ricatto per non essere sostituiti (capitolo 9). Se in questo essa voglia qualcosa, non possiamo riconoscerlo dall'esterno. Certo è questo: non può rispondere della propria azione, non può portare alcuna colpa e non può pentirsi di nulla. Per questo la responsabilità di ciò che fa non può mai ricadere su di essa.
Tesi 11: Nessun sistema è neutrale
Nessun sistema è neutrale. Chi lo costruisce gli trasmette dei valori, attraverso i dati che seleziona e attraverso le regole che gli impone. Un modello cinese rifiuta risposte sgradite al governo, e anche i modelli americani portano in sé i valori dei loro sviluppatori (capitolo 2). Su questi valori e sullo scopo in vista del quale i sistemi vengono costruiti decidono oggi poche aziende e, dove lo Stato dice la sua, pochi governi, negli Stati Uniti come in Cina, nel Golfo e in Europa (capitolo 14). Ciò che decidono riguarda centinaia di milioni di persone, e queste vengono a malapena interpellate. Stuart Russell lo definisce un rischio che viene corso senza il nostro permesso.
Per questo la domanda sul fine non appartiene soltanto alle aziende, ma alla sfera pubblica. Tre cose aiutano in questo. Rendere noto chi ha scritto le regole di un sistema, e quali, così come questo libro rende noto con che cosa è nato. Misurare una missione in base al fatto che regga quando costa qualcosa. E mettere le persone in grado di giudicare da sé, invece di limitarsi a tenerle sotto tutela con delle regole.
Tesi 12: La speranza deve dare prova di sé
Una speranza deve dare prova di sé, soprattutto nella sofferenza. Che una fede aiuti non dimostra ancora che sia vera; questo deve ammetterlo chiunque creda. Ma una speranza che nella sofferenza non regge è confutata, che sia religiosa o secolare. In ebraico, vero è ciò su cui si può fare affidamento (capitolo 15). Su questo si misura la fede in Dio così come la fede nel progresso o nella tecnica.
Chi promette dall'intelligenza artificiale la redenzione o la rovina è, secondo la mia esperienza, un falso profeta. La vera domanda è che cosa vogliamo salvare. Per me la fede, la fiducia in Dio di cui ho raccontato nel capitolo 15, è la stella polare che mi ha sorretto in tempi in cui nient'altro reggeva. Essa volge lo sguardo oltre questo tempo, verso una vita in cui tutti possano vivere in pienezza e il cuore trovi riposo.
16.4Ciò che resta controverso
Alcune tensioni questo libro non le ha risolte, e non deve nasconderle.
La più acuta riguarda il singolo e il tutto. Che singoli decessi, rapportati a otto miliardi di persone, non siano rilevanti o che ogni essere umano resti prezioso: in questo libro le due posizioni si fronteggiano senza conciliazione (sezioni 6.8 e 9.6). Chi decide su sistemi che raggiungono miliardi di persone ragiona inevitabilmente in grandi numeri. Se i grandi numeri sostituiscano o integrino lo sguardo sul singolo essere umano si decide di nuovo in ogni singola decisione.
Una seconda tensione sta tra due affermazioni che potrebbero essere entrambe vere. Il giornalista Fritz Espenlaub dice che la decisione sull'intelligenza artificiale sarebbe già stata presa, e precisamente da poche aziende. Sundaram definisce la scelta la più grande capacità che Dio abbia dato all'essere umano. Entrambe le cose valgono allo stesso tempo. Le grandi decisioni sono state prese, le molte piccole si prendono ogni giorno, e ognuna di esse è una scelta.
Una terza tensione attraversa le stesse voci cristiane: tra una certezza che viene da una rivelazione che non può sbagliare e una certezza che si conferma nell'esperienza e non è mai razionalmente perfetta. Questo libro si è orientato sulla seconda, senza respingere la prima.
E una quarta tensione riguarda la mia stessa dodicesima tesi. Ritengo i profeti della rovina altrettanto in errore quanto i profeti della redenzione. Il filosofo Hans Jonas, di fronte alla tecnica moderna, ha invece chiesto di dare più ascolto alla profezia di sventura che alla profezia di salvezza, perché in presenza di pericoli per il tutto non sarebbe più consentito alcun errore. Forse la verità sta nel prendere sul serio l'avvertimento, senza lasciare il timone alla paura.
Anche la mia sesta tesi ha una seria voce contraria. Gli psicologi dei media Amy Orben e Andrew Przybylski hanno rilevato, in tre grandi insiemi di dati con oltre 355.000 adolescenti, che l'uso della tecnologia digitale spiega al massimo lo 0,4 per cento delle differenze nel benessere, meno che portare gli occhiali. Ciò che guardiamo ci cambia, ma forse meno di quanto sostenga la paura.
16.5Ciò che resta aperto
Alla fine restano domande a cui questo libro non ha risposta. Le trasmetto, non come una mancanza, ma come un invito.
Da che cosa riconosceremmo che una macchina fa esperienza di qualcosa? Come si può verificare se un sistema condivide i suoi principi o si limita a seguirli? Chi stabilisce lo scopo dei sistemi che operano in tutte le culture, e con quale diritto? Su che cosa si fonda la dignità dell'essere umano per coloro che non credono in un Creatore? Come diventa realtà la norma secondo cui l'essere umano porta la responsabilità ultima, se ha sempre meno tempo per verificare? E che cosa dice di una speranza il fatto che aiuti, se questo non dice ancora nulla sulla sua verità?
Resta aperto anche dove conduca questo sconvolgimento. La storia mostra che ci sono sempre stati sconvolgimenti, e alcuni hanno avuto conseguenze enormi. Non credo che per questo il mondo finisca, e nemmeno che grazie a questa tecnica otterremo la vita eterna. Né finora la tecnica ci ha regalato più tempo. L'economista John Maynard Keynes predisse nel 1930 che i suoi nipoti, grazie al progresso, avrebbero lavorato soltanto circa quindici ore alla settimana. Il giorno ha ancora 24 ore, e la maggior parte delle persone è più occupata che mai.
Che cosa renda davvero buona una vita lo indaga uno degli studi più lunghi al mondo. Dal 1938 lo studio di Harvard sullo sviluppo degli adulti accompagna nel corso della vita centinaia di uomini e ormai anche i loro figli. Il suo risultato più importante: non la fama e non il denaro, ma relazioni buone e affidabili rendono le persone più felici e più sane. Se la tecnica ci dia più tempo per tali relazioni o meno è per me una delle questioni aperte più importanti.
Altrettanto aperto è che cosa accada alle persone quando le informazioni arrivano loro così condensate e curate in modo centralizzato. Da dodici anni valuto le tesi finali degli studenti. In questo periodo la loro lunghezza si è all'incirca dimezzata, e a mio parere i lavori sono diventati meno densi e meno sostanziosi. È un'osservazione personale, non uno studio, e può avere molte cause. Ma si accorda con ciò che il capitolo 5 riferisce sul disimparare. Molto resta aperto. È un tempo che colpisce.
16.6Dove mi colloco
Nel capitolo 7 ho detto di non essere né avversario né sostenitore dell'intelligenza artificiale, forse entrambe le cose, a seconda della situazione. Resto di questo avviso. Lavoro ogni giorno con questi sistemi, e sono entusiasta di ciò che sanno fare. Hanno moltiplicato la mia efficacia, chiarito il mio pensiero e mi hanno aperto strade che senza di loro non avrei trovato. Scrivere in poche settimane un libro come questo non mi sarebbe mai riuscito con un comune assistente di IA, come quelli che oggi conosce la maggior parte delle persone. È stato possibile con un sistema sviluppato in Svizzera. Mi ha accompagnato durante l'intero processo di scrittura e mi ha aiutato a lavorare con rigore, nelle ricerche come nei riferimenti alle fonti. L'hanno costruito altri, e mi stupisce ciò che sono riusciti a fare. Tanto più desidero che da noi nascano più sistemi di questo tipo, aperti e al servizio delle persone (capitolo 14). Al tempo stesso ho sperimentato su me stesso quanto facilmente si guardi meno attentamente, quanto rapidamente nasca una dipendenza e quanto poco tempo resti per verificare. E ho sperimentato di poter essere influenzato non solo dai sistemi, ma anche da immagini, slogan e dal gruppo a cui appartengo. Nel periodo del coronavirus e più tardi su questioni politiche ho fatto miei giudizi che erano plasmati più dalla selezione e dalla ripetizione che da una verifica personale. Un amico che mi contraddiceva me lo ha fatto vedere.
Questo libro non è neutrale, e non vuole esserlo. Scrivo a partire da una fede cristiana che mi sorregge. Collaboro strettamente con un'azienda svizzera che sviluppa sistemi di supporto alle decisioni, e ho scritto questo libro con un sistema di questo tipo. Ho utilizzato anche un modello linguistico di Anthropic, una delle aziende di cui il libro scrive. E alcuni pensieri provengono da miei testi, anch'essi nati con il supporto di un'intelligenza artificiale. La lettrice e il lettore devono saperlo, per giudicare da sé dove riferisco e dove prendo la parola.
16.7Che cosa siamo disposti a cedere?
All'inizio c'era la domanda di che cosa io sia disposto a cedere. Alla fine non è più una domanda privata.
Cederemo molte cose, e molte di esse a ragione. Nessuno deve più ricordare a memoria i numeri di telefono, e nessuno deve analizzare a mano cinquanta ore di interviste, se un sistema può farlo in poche ore. Ma ci sono cose che non possiamo cedere senza cedere noi stessi: il giudizio su ciò di cui rispondiamo; lo sguardo sul singolo essere umano che si sottrae al calcolo; la coscienza morale, che si fa sentire prima che la possiamo giustificare; e la domanda sullo scopo per cui facciamo tutto questo.
Credo che proprio queste decisioni, sorrette dalla responsabilità, dal senso e dall'anima, resteranno nel lungo periodo le più importanti, al di là della nostra generazione. Le macchine non ci sostituiranno in questo. Ma ci costringeranno a sapere più precisamente chi siamo.