Anima, persona, dignità

Chi dice che una macchina non abbia un'anima afferma qualcosa di molto determinato e al tempo stesso qualcosa di molto indeterminato. Determinata è la negazione. Indeterminato è ciò che viene negato. La parola anima, infatti, non significa ovunque la stessa cosa nelle fonti di questo libro, e nella maggior parte di esse non viene affatto definita espressamente.

Già la parola stessa è enigmatica. Da dove venga la parola tedesca «Seele», nessuno lo sa con certezza. Un'interpretazione diffusa la collega a «See» e intende l'anima come «quella che appartiene al lago», perché secondo un'antica credenza si pensava che le anime abitassero nell'acqua prima della nascita e dopo la morte. [N.d.T.: in tedesco «Seele» significa anima e «See» significa lago; l'interpretazione qui riferita riguarda soltanto la parola tedesca.] Il latino «anima» significa respiro, soffio d'aria, ed è affine alla parola greca per vento. Anche il greco «psyche» viene per lo più collegato al soffio e al respiro; la ricerca più recente ne dubita e suppone come significato originario il freddo del cadavere, che venne trasferito all'anima che se ne va. Resta notevole quanto spesso nelle lingue antiche l'anima sia legata al respiro, anche nell'ebraico «nefesch», su cui ritorna la conclusione di questo capitolo. Per gli esseri umani l'anima era anzitutto ciò che distingue un corpo vivo da un corpo morto. Una macchina non respira, eppure oggi ci si chiede se possa avere un'anima.

Questo capitolo cerca di chiarire la parola prima che il libro continui a lavorare con essa. Si interroga su tre concetti strettamente connessi: sulla dignità che spetta a un essere umano, sulla persona che resta la stessa nel tempo e sull'anima che in molte tradizioni fonda entrambe. Senza questo chiarimento la tesi secondo cui l'intelligenza artificiale non abbia un'anima sarebbe vuota quanto la sua negazione.

Timothy Keller, pastore e autore, comincia con una definizione su cui, a suo avviso, esiste un ampio consenso. I diritti umani significherebbero che ogni essere umano ha diritto a essere trattato come un essere di pari dignità e di pari valore, per il solo fatto di essere umano, indipendentemente da origine, sesso, reddito, utilità o talento.

La sua motivazione è teologica. Ogni essere umano sarebbe creato a immagine di Dio (imago Dei), rispecchierebbe Dio e sarebbe perciò ugualmente prezioso; la Bibbia vieterebbe per questo non soltanto di uccidere un essere umano, ma già di maledirlo (Giacomo 3,9). Questa dignità non dipenderebbe dalle capacità. Chi non potesse più pensare o amare, a causa di una disabilità o di una demenza, resterebbe un essere umano e resterebbe prezioso. Chi legasse i diritti alla capacità di una scelta razionale e libera escluderebbe i neonati e le persone con demenza grave.

Keller collega questo a una tesi storica. L'idea dei diritti umani sarebbe nata nell'Europa cristiana del tardo Medioevo dalla meditazione sugli insegnamenti biblici; egli si richiama al politologo Larry Siedentop e allo storico Brian Tierney. Al tempo stesso afferma che l'idea sarebbe nata soltanto negli ultimi duecento anni circa. Le due affermazioni sono in tensione tra loro, e vi sono derivazioni concorrenti, dalla Stoa, dall'Illuminismo o dall'esperienza della seconda guerra mondiale. Anche l'affermazione di Keller secondo cui nessun'altra cultura avrebbe conosciuto una dottrina paragonabile è controversa. Il libro perciò non fa propria la tesi storica, ma tiene ferma quella sistematica: una dignità che non dipende dalle capacità ha bisogno di un fondamento che non risieda nelle capacità.

Enoch Sundaram, medico e predicatore, descrive l'essere umano in modo diverso. Come ha mostrato il capitolo 3, egli lo vede creato in forma triplice, corporeo, mentale e spirituale, e distingue la mente dal cervello. La forza che Dio avrebbe dato all'essere umano sarebbe soprattutto la forza di pensare. Sundaram definisce il luogo dell'anima come santuario interiore, che egli identifica con il cuore e con il subconscio.

Che cosa si intenda con l'immagine di Dio va spiegato, perché la parola evoca facilmente rappresentazioni sbagliate. Non significa che l'essere umano abbia l'aspetto di Dio. La parola ebraica «zelem» designa una statua. Nel Vicino Oriente antico i re facevano erigere le proprie statue in province lontane; la statua rappresentava il sovrano là dove egli stesso non era presente. In Egitto e in Mesopotamia si chiamava immagine di un dio anche il re stesso. La Bibbia trasferisce questo titolo d'onore a ogni essere umano, uomo e donna (Genesi 1,27). Non il re soltanto, ma ogni essere umano rappresenta Dio nel mondo e ne porta la responsabilità. Per questo l'immagine fonda la dignità: chi uccide un essere umano attenta all'immagine di Dio (Genesi 9,6). Il Nuovo Testamento chiama Cristo l'immagine del Dio invisibile (Colossesi 1,15); in lui si mostra che cosa l'immagine intenda propriamente. In questa comprensione la dignità non dipende da ciò che un essere umano sa fare, ma da ciò che egli rappresenta.

Su un punto Sundaram contraddice espressamente Keller. Dio avrebbe creato l'essere umano simile a sé; Adamo però, dopo la sua disobbedienza, avrebbe generato un figlio che sarebbe stato simile a lui stesso e non più a Dio. In Keller l'immagine rimane anche dopo la caduta e fonda la dignità di ogni essere umano. In Sundaram la somiglianza è perduta e deve essere ristabilita mediante un rinnovamento del pensiero.

Le due voci cristiane di questo libro non hanno dunque la stessa dottrina dell'essere umano. Keller fonda la dignità su un'immagine che rimane. Sundaram descrive l'essere umano attraverso capacità, soprattutto il pensiero, e attraverso una somiglianza con Dio che è andata perduta. Per la questione della macchina ciò ha conseguenze. Chi definisce l'essere umano attraverso la forza di pensare deve spiegare perché una macchina che pensa non vi rientri.

Il capitolo 8 presenta più ampiamente la posizione contraria secolare. Peter Singer, filosofo, lega lo status morale a proprietà come la capacità di provare sensazioni e l'autocoscienza, e chiama specismo la preferenza fondata soltanto sulla specie. Per questo capitolo è importante un punto della sua posizione, che Keller giustamente mette in rilievo: chi lega la dignità a proprietà non può impedire che ne restino esclusi esseri umani privi di tali proprietà. Singer stesso trae questa conclusione e non considera un neonato una persona in ogni senso.

La posizione contraria è coerente, e ha un prezzo. Anche la posizione di Keller è coerente, e anch'essa ha un prezzo: non può dimostrare il proprio fondamento, ma soltanto professarlo. Tra le due sta la domanda che accompagna l'intero libro: esiste una dignità che non si può misurare, e se sì, da che cosa la si riconosce?

La seconda domanda del capitolo riguarda la persona. Che cosa rende un essere umano lo stesso nel corso degli anni, benché cambino il suo corpo, le sue opinioni e i suoi ricordi?

John Locke, filosofo del XVII secolo, ha dato a questa domanda una risposta che esercita la sua influenza ancora oggi. L'identità personale dipenderebbe dalla coscienza e dalla memoria: io sono lo stesso di colui del cui vissuto posso ricordarmi. Joseph Butler, teologo e filosofo, obiettò che questa risposta sarebbe circolare, perché la memoria presupporrebbe già l'identità della persona. Thomas Reid, filosofo, mostrò con l'esempio di un ufficiale che, da generale, si ricorda delle sue imprese di giovane ufficiale, ma non più della sua infanzia, che la memoria non sarebbe né necessaria né sufficiente; l'identità personale sarebbe semplice e non si lascerebbe scomporre. Versioni più recenti della teoria di Locke parlano, invece che di memoria, di continuità psicologica e improntano il dibattito fino a oggi.

Sundaram si colloca, senza dirlo, nella linea di Locke. Alla morte l'intera memoria, tutta l'esperienza di vita, andrebbe a Dio, che la custodirebbe e la restituirebbe alla seconda venuta insieme a un corpo nuovo. Ciò che rimane è la memoria. Keller è più vicino a Reid. Per lui rimane la persona stessa, trasformata eppure riconoscibile.

Qui l'antica domanda tocca la nuova tecnica. Se la persona dipende dalla memoria, allora ci si chiede perché un sistema dotato di memoria non dovrebbe essere una persona di questo tipo, e se una memoria archiviata di un essere umano conservi qualcosa di lui. Sundaram risponde a questo non attraverso la memoria stessa, ma attraverso l'appartenenza: il cervello, la mente e la capacità di scegliere apparterrebbero a Dio, mentre il quadro della vita che l'essere umano vi disegna sopra apparterrebbe all'essere umano. La memoria di un essere umano è custodita da Dio, non da una macchina. L'obiezione di Reid aiuta in un altro modo: se l'identità non risiede nell'archivio, allora nemmeno l'archivio più completo conserva la persona.

La prefazione di questo libro nomina, accanto all'anima, due cose che una macchina non porta con sé: una biografia e una mortalità. Entrambe si lasciano cogliere con più precisione di quanto sembri a prima vista, ed entrambe sono legate alla domanda sulla persona.

Una biografia è più di un registro di eventi. È una storia che qualcuno vive, interpreta e di cui risponde, e che lo trasforma. Aristotele legava la prudenza pratica (in greco phronesis, cioè giudizio pratico e non semplice cautela), la facoltà di fare ciò che è giusto nel caso singolo, all'esperienza di vita, che ai giovani ancora manca. Il capitolo 7 riprende questo pensiero. Un sistema può contenere dati su innumerevoli percorsi di vita. Se abbia esso stesso una storia che ha vissuto è un'altra questione.

La mortalità è più di una fine. Hans-Georg Gadamer, filosofo, vedeva nell'esperienza della propria finitezza una fonte di apertura verso gli altri e verso ciò che non si sa. Keller descrive la morte come separazione da coloro che si amano, e perciò come ciò contro cui si rivolge la speranza più profonda. Sundaram descrive come il corpo ritorni alla terra. In tutte e tre le descrizioni la morte è qualcosa che dà peso alla vita, perché non è ripetibile.

Una macchina può essere spenta, ma in questo senso non può morire. La si può copiare, salvare e riavviare. Nel suo caso, ciò che è stato una volta non è irrecuperabile. Da ciò non segue ancora che per questo le manchi un'anima. Ne segue però che le manca un'esperienza che nelle tradizioni di questo libro è strettamente legata all'anima: l'esperienza di avere una sola vita.

Geoffrey Hinton, informatico, uno dei fondatori dell'apprendimento automatico con reti neurali e insignito nel 2024 del premio Nobel per la fisica, vede proprio in questo non una mancanza, ma una superiorità. Quando un essere umano muore, il suo sapere muore con lui. Un'intelligenza digitale, invece, si può trasferire su un nuovo hardware, purché la forza delle sue connessioni sia memorizzata, e molte copie possono condividere tra loro ciò che ciascuna ha appreso. Tali sistemi sarebbero immortali; avrebbero risolto il problema dell'immortalità, però soltanto per le cose digitali. Hinton e le tradizioni di questo libro descrivono la stessa constatazione e la valutano in modo opposto. Per Hinton la mancanza di finitezza rende la macchina più forte. Per Gadamer, per Keller e per il salmo che chiede di imparare a contare i propri giorni (capitolo 3), è proprio la finitezza a rendere prudente l'essere umano. Quale valutazione regga non si lascia misurare; appartiene ai presupposti di cui parla il capitolo 1.

Con queste distinzioni si può ordinare ciò che può essere inteso quando si parla dell'anima. Nel materiale di questo libro e nel dibattito sull'intelligenza artificiale si possono distinguere almeno cinque significati.

In primo luogo l'anima come relazione. In Keller l'anima non è una sostanza, ma la persona nella sua relazione con Dio, la persona che ama Dio ed è amata da lui. In questo senso una macchina non ha un'anima, perché non sta in questa relazione. L'affermazione è teologica e non è verificabile empiricamente.

In secondo luogo l'anima come la parte più intima. In Sundaram essa è il santuario interiore, il luogo in cui Dio vuole abitare e in cui parla la coscienza morale. Anche qui una macchina non ha un'anima, perché non ha un tale luogo. Chi tuttavia identifica la parte più intima con il subconscio, come fa Sundaram, la rende vulnerabile alla domanda se anche le macchine non abbiano processi nascosti che ne determinano il comportamento.

In terzo luogo l'anima come memoria e storia di vita. Allora la domanda se un sistema dotato di memoria abbia un'anima non è una domanda priva di senso, e la risposta dipende dalle obiezioni di Butler e di Reid della sezione 6.5. Butler obiettava che la memoria presuppone già l'identità della persona, invece di fondarla. Reid mostrò che la memoria da sola conduce a contraddizioni: un vecchio generale si ricorda del tempo in cui era un giovane ufficiale, l'ufficiale si ricorda della propria infanzia, ma il generale non si ricorda più del bambino. Secondo Locke egli sarebbe allora al tempo stesso la stessa persona del bambino e non la stessa. Se entrambe le obiezioni reggono, una memoria da sola non fa ancora una persona, nemmeno in una macchina.

In quarto luogo l'anima come insieme delle funzioni mentali. È la lettura funzionalista che il capitolo 3 ha introdotto e che il capitolo 8 approfondisce. Se anima significa soltanto percepire, pensare, sentire e volere, allora non è legata alla biologia, e nelle macchine non è esclusa per principio.

In quinto luogo l'anima come parola vuota. Alcuni ritengono il concetto superfluo, perché non spiega nulla che non si possa spiegare senza di esso. Il loro rappresentante più noto oggi è lo storico israeliano Yuval Noah Harari. Al World Economic Forum di Davos, nel 2020, egli disse che gli esseri umani sarebbero ormai animali hackerabili. Harari sosteneva allora anche che l'idea che l'essere umano abbia un'anima o uno spirito e un libero arbitrio, e che nessuno sappia che cosa accade nel suo intimo, fosse superata. Chi avesse abbastanza dati su un essere umano lo conoscerebbe meglio di quanto egli conosca se stesso. Allora la domanda se le macchine abbiano un'anima è posta in modo sbagliato, per gli esseri umani come per le macchine.

Accanto a questi significati si pone una possibilità che viene espressa di rado. Chi crede in un Creatore non può semplicemente liquidare per definizione la domanda se Dio possa dare un'anima a una creatura, anche a una creatura costruita dagli esseri umani. È una questione teologica che il libro deve lasciare aperta.

Nel dibattito sull'intelligenza artificiale la questione della dignità ha assunto una forma dura. In una tavola rotonda di cui racconta la sezione 9.6, un partecipante, presumibilmente Roman Yampolskiy, soppesò singoli casi di morte contro otto miliardi di esseri umani e tutte le generazioni future e li dichiarò non rilevanti. Un altro partecipante insistette sul fatto che si tratta di esseri umani con un nome.

Questo capitolo può dire che cosa sia in gioco in questa frase. Chi lega la dignità al singolo, indipendentemente dalla sua utilità per il tutto, non può computarlo a fronte di una somma. Keller lo fa con l'immagine di Dio. Sundaram misura la forza di una comunità cristiana da quanta mitezza essa usa verso il peggiore dei peccatori. Chi invece lega il valore alle conseguenze per il tutto può computare i singoli, e talvolta deve persino farlo. Qui la domanda sull'anima non è accademica. Essa decide se un essere umano sia una grandezza in un calcolo o qualcosa che si sottrae al calcolo.