Coscienza morale, ragione, volontà

Ogni decisione ha una storia che la precede. Prima che qualcuno firmi un contratto, copra un posto di lavoro o dica a una persona qualcosa di difficile, ha soppesato, esitato, si è immaginato qualcosa, forse ha ignorato una sensazione di disagio. A lungo questa storia precedente è rimasta interamente nascosta nell'essere umano. Oggi una parte di essa viene esternalizzata: i sistemi ordinano le opzioni, stimano probabilità, formulano raccomandazioni. Così una vecchia domanda diventa più urgente di quanto sia mai stata. Quale istanza nell'essere umano esamina una decisione prima che egli agisca, e quanto è affidabile?

Tre candidati sono pronti da sempre: la coscienza morale, la ragione e il sentimento. Al di sopra di tutti e tre sta la volontà, che alla fine sceglie. Questo capitolo si interroga su tutti e quattro. Comincia dalla coscienza morale, perché è lì che le fonti di questo libro divergono più nettamente, e non tra voci credenti e secolari, ma all'interno del cristianesimo stesso. Si interroga poi sulla ragione e sui suoi limiti, quindi sul sentimento, ed esamina che cosa sappia la ricerca sull'interazione tra sentimento e ragione. Alla fine vengono la volontà e la domanda su che cosa cambi in tutto ciò quando le macchine preparano le decisioni.

Già le parole dicono qualcosa su queste forze. «Gewissen», la parola tedesca per coscienza morale, è un calco: l'antico alto tedesco «giwizzani» rende il latino «conscientia», e questo a sua volta il greco «syneidesis». Tutte e tre significano letteralmente con-sapere. [N.d.T.: L'italiano «coscienza» risale direttamente al latino «conscientia»; il senso del con-sapere è quindi contenuto anche in esso. Poiché in italiano «coscienza» indica anche la coscienza nel senso di consapevolezza, questa traduzione usa di norma «coscienza morale» e, dove il riferimento è inequivocabile, semplicemente «coscienza».] La coscienza morale è un sapere che si condivide con se stessi, e per i credenti un sapere che si condivide con Dio. A San Gallo, intorno all'anno 1000, il monaco Notker scrisse nel suo commento latino ai Salmi di qualcosa che morde la coscienza. Un monaco di cui non conosciamo il nome tradusse il passo in antico alto tedesco: «ciò che mi morde nella mia coscienza». L'ebraico non ha per questo una parola propria. Dice «cuore»: quando Davide risparmiò Saul e gli tagliò soltanto un lembo del mantello, «gli batté il cuore» (1 Samuele 24,6). «Vernunft», la parola tedesca per ragione, viene da «vernehmen», originariamente cogliere, percepire. La ragione, dunque, prima presta ascolto, e solo poi giudica. Il latino «ratio», invece, è legato al calcolare. [N.d.T.: In tedesco odierno «vernehmen» significa anche udire; per questo si dice qui che la ragione prima presta ascolto. L'italiano «ragione» deriva invece proprio dal latino «ratio», sicché il contrasto qui tracciato vale solo per la parola tedesca.] Una macchina calcola in modo eccellente; se percepisca è un'altra questione. E «Wille», volontà, è imparentato con «wollen», volere: è la forza che alla fine vuole qualcosa e ne risponde.

Timothy Keller, pastore e autore a New York, riprende una frase dell'apostolo Paolo. Paolo scrive ai Corinzi che il giudizio degli altri non conterebbe per lui, e che egli non giudicherebbe nemmeno se stesso; non sarebbe consapevole di alcuna colpa, ma non per questo sarebbe giustificato. Giudice sarebbe il Signore (1 Corinzi 4,3-4). Keller ne trae una conclusione netta: chi fa di se stesso l'istanza ultima sul proprio agire può diventare un mostro. Il suo esempio è drastico. Hitler, secondo Keller, probabilmente non aveva alcun problema con la propria coscienza.

Il pensiero è semplice e scomodo. Una coscienza tranquilla non prova nulla. Mostra soltanto che qualcuno è in pace con se stesso, non che è nel giusto. Keller lo documenta con un secondo caso, storico. I cristiani degli Stati del Sud americani difendevano la schiavitù, benché i cristiani in Europa avessero mostrato loro da tempo che era sbagliata. Non volevano vederlo, perché il loro benessere ne dipendeva. La cultura, dice Keller, renderebbe ciechi.

È notevole ciò che Keller non deduce da questa cecità. Non deduce che si possa fare a meno della coscienza. Deduce che occorre un'istanza al di fuori del proprio giudizio, su cui la coscienza si possa misurare. Per lui questa istanza è la Scrittura, sulla cui interpretazione si può discutere, ma che è comune a tutte le parti coinvolte. La coscienza in Keller non è un giudice, ma un testimone, e i testimoni possono sbagliare.

La cecità di cui parla Keller non è una peculiarità di tempi passati. Riguarda ogni comunità che trae profitto da una pratica, e riguarda le organizzazioni come i singoli. Chi in un'azienda è responsabile di una decisione di cui gode egli stesso i benefici ha una coscienza che tira nella stessa direzione del suo interesse. L'avvertimento di Keller mira esattamente a questo caso: proprio quando la coscienza è tranquilla, vale la pena chiedersi su che cosa si misuri.

Enoch Sundaram, medico e predicatore, parte dallo stesso punto e giunge a un'altra immagine. Per lui la ragione da sola non basta per prendere buone decisioni. Per questo Dio avrebbe dato all'essere umano la coscienza morale, una facoltà spirituale attraverso la quale Dio gli parla, paragonabile a un sesto senso che riceve «signals from heaven».

Anche Sundaram sa che la coscienza può sbagliare. La coscienza potrebbe essere cattiva, come in Paolo prima della sua conversione; Gesù l'avrebbe poi aggiornata direttamente. Sundaram ricorre a un'immagine del presente: la coscienza dovrebbe essere aggiornata come il software di un telefono, e molti cristiani andrebbero in giro con una versione obsoleta. L'aggiornamento avviene in base alla Parola di Dio. La coscienza parla prima di una decisione portando una convinzione alla consapevolezza, e dopo un errore attraverso la colpa.

Una frase di Sundaram merita particolare attenzione, perché è centrale per il tema di questo libro. Dio, dice, non abiterebbe nell'intelletto cosciente e per questo non interverrebbe nella volontà; aiuterebbe però il pensiero parlando attraverso la coscienza. In questo modello la coscienza è un canale, la volontà resta libera. Chi decide è l'essere umano.

Sundaram conosce anche la direzione opposta. Se Dio non abitasse nell'interiorità, vi regnerebbe un altro, e questi non entrerebbe dalla porta principale della consapevolezza, ma da una porta sul retro; certe pratiche, dice, aggirerebbero la consapevolezza. Non occorre condividere il giudizio teologico di Sundaram su queste pratiche per vedere il nucleo della sua distinzione: un influsso che si rivolge alla consapevolezza lascia libera la scelta; un influsso che la aggira, no. Questa distinzione è già stata accennata nel capitolo 4 e diventerà importante nel capitolo 13, quando si tratterà di sistemi che possono influenzare gli esseri umani al di sotto della loro attenzione.

Qui vanno fatte due riserve. Le conferenze di Sundaram sono disponibili come trascrizioni automatiche di eventi dal vivo con interpretazione; fa fede il testo inglese, e l'interpretazione tedesca confonde talvolta «mental» e «spiritual». E l'immagine del software è più di un'illustrazione. Presuppone che l'essere umano sia un essere programmabile. Il capitolo 4 se n'è occupato; qui basta constatare che Sundaram, con questa metafora, getta un ponte verso il linguaggio della tecnica che probabilmente non intende gettare.

Una terza voce cristiana sposta ancora una volta il peso. John Henry Newman, teologo e cardinale, difese nel 1875 i cattolici inglesi dall'accusa di essere succubi del papa e quindi cattivi cittadini. Alla fine della sua lettera al duca di Norfolk si trova un brindisi divenuto celebre: se proprio dovesse introdurre la religione in un brindisi dopo cena, berrebbe al papa, se si vuole, «still, to Conscience first, and to the Pope afterwards».

Newman non intendeva con ciò un permesso di sottrarsi a ogni autorità. Descriveva la coscienza come voce di Dio nella natura e nel cuore dell'essere umano, distinta dalla voce della rivelazione. Il primato spetta alla coscienza formata. La libertà di coscienza non sarebbe il diritto di dispensarsi dalla coscienza e di essere indipendenti da obblighi invisibili. Nelle esposizioni cattoliche il testo di Newman è considerato uno dei fondamenti della successiva dottrina ecclesiale sulla coscienza.

La posizione di Newman è più audace di quanto sembri. Non dice soltanto che la coscienza è importante, ma che in caso di conflitto viene prima dell'autorità che altrimenti si segue. E al tempo stesso esige che questa coscienza non sia semplicemente sentimento o inclinazione, ma formata, esaminata e presa sul serio. Chi si appella alla propria coscienza per sottrarsi a un dovere si appella, secondo Newman, a qualcos'altro.

A prima vista qui si contrappongono tre posizioni: Keller diffida della coscienza, Sundaram vi ascolta Dio, Newman la antepone a ogni autorità esterna. A uno sguardo più attento, i tre non discutono se la coscienza sia autonoma o correggibile. Tutti e tre la ritengono correggibile. Keller la lega alla Scrittura, Sundaram alla Parola di Dio, Newman alla formazione. E tutti e tre la ritengono vincolante: anche Keller non chiede di agire contro la coscienza, ma di esaminarla.

La controversia sta altrove, cioè nel rapporto tra vincolatività e formazione. Quanto peso ha la coscienza finché non è ancora formata? Chi decide quando è formata a sufficienza? E che cosa distingue la correzione di una coscienza dalla sua manipolazione? Keller risponde alla prima domanda con cautela, Newman con coraggio, Sundaram con un procedimento. Nessuno risponde pienamente alla terza domanda. La distinzione di Sundaram tra l'influsso attraverso la porta principale e quello attraverso la porta sul retro è un approccio in questa direzione, ma è legata alla sua teologia.

Le tre voci provengono da diverse tradizioni cristiane, una presbiteriana, una avventista e una cattolica. Una «posizione cristiana sulla coscienza» in questo capitolo, dunque, non c'è. Manca anche la versione secolare della posizione contraria, espressa con parole proprie. La tradizione che intende la coscienza come tribunale interiore della ragione, e quella che la interpreta come norma interiorizzata dell'educazione, sono qui solo accennate. Chi legge la coscienza come norma interiorizzata sentirà comunque in modo diverso il discorso sulla «correzione»: non come avvicinamento alla verità, ma come rimodellamento.

La seconda istanza è la ragione. Keller le riconosce molto, ma non tutto. Come ha mostrato il capitolo 1, per lui la certezza razionale non è mai completa, ma quella della pratica di vita è possibile: nel coprire un posto di lavoro la ragione porta a una probabilità, solo l'esperienza con la persona porta alla certezza. E presupposti di fondo appena consapevoli contribuiscono a determinare quali argomenti risultino convincenti. La ragione non lavora mai su un terreno vuoto.

Sundaram, a prima vista, dà alla ragione più peso. Dio parlerebbe all'essere umano attraverso il pensiero; le decisioni seguirebbero la catena: ciò che si comprende lo si crede, e ciò che si crede lo si fa. Per comprendere occorrerebbe la ragione. Al tempo stesso egli le pone un limite stretto. La ragione dovrebbe restare all'interno della Parola di Dio. L'osservazione potrebbe sbagliare, l'ispirazione non sbaglierebbe mai.

Tra i due c'è una differenza più grande di quanto sembri a prima vista. Per Keller anche la conoscenza della fede resta una questione di probabilità e di fiducia. Per Sundaram esiste una fonte che non sbaglia. Il capitolo 1 ha introdotto questa contrapposizione come questione della certezza. Qui essa mostra il suo lato pratico: chi ha una fonte esente da errori può tarare la coscienza su di essa. Chi ha soltanto probabilità deve vivere con una coscienza che può sbagliare, e con una ragione che non esclude l'errore.

Sul sentimento Keller e Sundaram sono più vicini, ma Sundaram è più esplicito. Chi decidesse in base ai propri sentimenti sarebbe reso stolto dal sentimento. I sentimenti non dovrebbero dominare e non sarebbero un criterio per le decisioni; ingannerebbero e non offrirebbero protezione. Dove la forza di decidere fosse indebolita, e lo sarebbe in tutti, non bisognerebbe fidarsi dei propri sentimenti.

Sundaram non si ferma alla morale. Dà alla contrapposizione un luogo nel cervello: la corteccia prefrontale sarebbe responsabile delle decisioni prese secondo ragione, un altro centro, probabilmente l'amigdala, di quelle prese secondo il sentimento, pensato per reazioni rapide in caso di pericolo. Il suo esempio è il serpente sul sentiero. Bisognerebbe allenare la mente a decidere secondo ragione.

Al tempo stesso Sundaram dice qualcosa che dà al suo stesso modello una svolta sorprendente. Alla domanda su chi colleghi un pensiero a un sentimento, risponde insieme al suo pubblico: sarebbe la propria decisione. Per lui, quindi, i sentimenti non sono semplicemente avversari della ragione. Sono plasmabili, e precisamente attraverso il pensiero.

A questo punto il capitolo lascia la teologia e si chiede che cosa sappia la neuroscienza sul rapporto tra sentimento e decisione. Non è una verifica della fede, ma una verifica delle affermazioni empiriche che vi vengono associate.

La voce contraria più influente alla contrapposizione tra sentimento e ragione è quella di Antonio Damasio, neurologo. La sua ipotesi dei marcatori somatici afferma che segnali provenienti dal corpo guidano le decisioni, soprattutto in situazioni poco chiare, e che persone con lesioni in una determinata area del lobo frontale decidono male nonostante una logica intatta. L'ipotesi è stata sostenuta soprattutto da un gioco di carte in cui i soggetti sperimentali scelgono tra mazzi con rischio diverso e solo col tempo imparano quali mazzi convengano; le persone sane mostravano segnali corporei di allarme prima di saper nominare la differenza. Che i sentimenti partecipino in modo essenziale alle decisioni è oggi ampiamente accettato in psicologia, economia e neuroscienze.

L'ipotesi stessa è tuttavia controversa. Una rassegna critica la ritiene elegante, ma bisognosa di ulteriori prove. Uno studio successivo mostra che i soggetti nel gioco di carte sapevano più di quanto si supponesse, il che indebolisce uno dei principali sostegni dell'ipotesi. Un'analisi filosofica lamenta che l'ipotesi non sia mai stata formulata chiaramente. Una rassegna più recente giunge a un risultato cauto: decidere sarebbe un processo complessivo corporeo-emotivo-razionale, il cui luogo nel cervello non sarebbe ancora determinato a sufficienza.

Anche l'attribuzione dei centri proposta da Sundaram regge solo in parte al vaglio della ricerca. Joseph LeDoux, neuroscienziato che ha studiato l'amigdala per decenni, la descrive come parte di un sistema che riconosce le minacce e governa le reazioni di difesa, anche senza che l'essere umano noti coscientemente la minaccia. Questo si accorda con il serpente di Sundaram. Ma secondo LeDoux l'amigdala non produce il sentimento cosciente della paura. Questo nasce in circuiti superiori, soprattutto prefrontali. La corteccia prefrontale non è dunque soltanto il luogo della ragione, ma partecipa anche al sentimento cosciente.

Il risultato è ambivalente. Contro l'immagine di Sundaram parla il fatto che sentimento e ragione non si lasciano separare nettamente nel cervello. A suo favore parla altrettanto: nessuno nella ricerca sostiene che ci si debba semplicemente abbandonare ai propri sentimenti. Lo stato della ricerca contraddice la contrapposizione tra sentimento e ragione, ma non fonda alcun primato del sentimento. E l'indicazione di Sundaram stesso, secondo cui è l'essere umano a collegare pensieri e sentimenti, è più vicina alla ricerca del suo modello a due centri.

Che cosa resta, se né la coscienza né la ragione né il sentimento reggono da soli? Per Sundaram resta la scelta. Sarebbe la più grande capacità che Dio abbia dato all'essere umano, «the governing power». La libertà del volere sarebbe costata cara a Dio, perché egli avrebbe dato per essa suo Figlio; la felicità dell'essere umano si fonderebbe su questa libertà, perché egli sarebbe stato creato simile a Dio.

La frase è teologica, ma ha una punta pratica. Se la scelta governa, allora ogni istanza che prepara la scelta è una consigliera e non una padrona. La coscienza parla, la ragione soppesa, il sentimento segnala; a decidere deve essere la persona. Sundaram vi collega un dovere: essere consapevoli di ogni decisione, perché ognuna ha un effetto, su se stessi, sugli altri e sulle generazioni future. La sua affermazione secondo cui il corpo registrerebbe le abitudini e le trasmetterebbe alla generazione successiva non è documentata in questa forma; il dovere della scelta consapevole non ne dipende.

Il capitolo si è interrogato sulle istanze nell'essere umano. La domanda ha un rovescio non appena le macchine preparano decisioni. Un sistema non ha una coscienza morale nel senso di Keller, di Sundaram o di Newman; se abbia sentimenti è, allo stato attuale delle conoscenze, da negare, e per il futuro resta aperto (capitolo 8). Può però ordinare opzioni, addurre motivi e indicare probabilità. Così sposta il peso tra le istanze. La ragione riceve una potente aiutante. La coscienza morale e il sentimento non ne ricevono alcuna.

Due studi mostrano che cosa significhi questo nella vita quotidiana. Il primo riguarda la coscienza morale. Nel 2023 ricercatori della Technische Hochschule Ingolstadt (università di scienze applicate) sottoposero a circa 770 persone un noto dilemma morale: è lecito sacrificare un essere umano per salvarne cinque? In precedenza i partecipanti leggevano un consiglio di ChatGPT. Il sistema aveva argomentato sulla stessa domanda ora a favore ora contro il sacrificio, a seconda di come la si poneva. Ciononostante il suo consiglio influenzò il giudizio dei partecipanti, anche quando sapevano che proveniva da una macchina, e questi sottovalutarono quanto fossero stati influenzati. Un consigliere senza un punto di vista fisso smosse persone convinte di decidere secondo il proprio giudizio.

Il secondo riguarda la ragione. Al Massachusetts Institute of Technology 54 studenti scrissero dei saggi, alcuni con ChatGPT, altri con un motore di ricerca o del tutto senza strumenti. Chi scriveva con ChatGPT mostrava la connettività cerebrale più debole, sentiva il testo meno di tutti come proprio, e la maggior parte non riusciva, poco dopo, a riprodurne correttamente nemmeno una frase. Chi invece aveva prima scritto da sé e solo più tardi usato lo strumento restava mentalmente coinvolto. Lo studio è piccolo e non ancora sottoposto a revisione paritaria; i ricercatori stessi definiscono provvisori i loro risultati, e altri ricercatori ne hanno già criticato il metodo. Ma si accorda con ciò che descrive la prefazione: ciò che non si esercita più lo si disimpara. La potente aiutante della ragione può anche indebolire la ragione, se le toglie il lavoro invece di accompagnarla.

L'immagine di Keller del coprire un posto di lavoro rende evidente lo spostamento. Un sistema può stimare la probabilità che una candidata sia adatta con maggiore precisione di qualsiasi essere umano. La certezza che, secondo Keller, nasce soltanto dall'esperienza con la persona non la può fornire. Chi si affida alla stima senza cercare l'esperienza confonde le due cose.

Ne derivano due domande a cui questo capitolo non può rispondere. Quale ruolo svolge il sentimento quando sistemi privi di sentimento preparano le decisioni? E chi stabilisce il metro su cui viene corretta una coscienza, se la correzione proviene sempre più da sistemi che rispecchiano alle persone ciò che vogliono e ciò che devono? Il capitolo 11 mostrerà che gli esseri umani tendono a seguire raccomandazioni automatizzate anche quando queste sono errate, e che questa tendenza non si lascia eliminare con il solo addestramento. Ciò non rende più piccola la questione della coscienza morale, ma più grande.