Coscienza, subconscio

La maggior parte delle decisioni ci dà la sensazione di prenderle consapevolmente. Soppesiamo, scegliamo, agiamo. Eppure gran parte di ciò che determina il nostro agire accade senza che ce ne accorgiamo. Guidiamo l'auto senza riflettere su ogni gesto. Reagiamo a un tono nella voce di un altro prima di saperlo nominare. Riteniamo convincenti o meno degli argomenti senza sapere perché.

Questo capitolo si chiede anzitutto quali abitudini e presupposti di fondo plasmino il nostro agire senza che ce ne accorgiamo consapevolmente. A tal fine presenta le interpretazioni di Enoch Sundaram e di Timothy Keller e si chiede poi che cosa la ricerca possa effettivamente confermare. Non ogni affermazione sul cuore è un'affermazione psicologica, e non ogni paragone con un computer è già una spiegazione del cervello.

Segue poi la domanda particolarmente importante per questo libro: se gli esseri umani mostrano schemi ricorrenti, quanto bene si possono prevedere le loro decisioni? L'intelligenza artificiale può riconoscere tali schemi nel linguaggio, nel comportamento e nei dati. Può così aiutare a comprendere meglio un essere umano, ma può anche aiutare a influenzarlo. Quante più informazioni qualcuno possiede su di noi, tanto più urgenti diventano le domande a chi appartengano queste informazioni e agli interessi di chi serva il loro utilizzo. Anche in un modello linguistico si svolgono molti processi tecnici che nemmeno i suoi sviluppatori riescono a ricostruire fino in fondo (capitolo 13). Questo non è ancora un subconscio umano, ma è un motivo per interrogarsi più precisamente sulla differenza.

Enoch Sundaram, medico e predicatore, descrive il subconscio con un'immagine tratta dalla tecnica. Esso vorrebbe risparmiare tempo ed energia e formerebbe, a partire dalla ripetizione, programmi o abitudini: come guidiamo l'auto, come parliamo, come ci comportiamo con i coniugi e con i figli. Ogni agire si fonderebbe sui programmi nel cuore. Che le azioni diventino automatiche con l'esercizio è ben noto. Sundaram va oltre: il subconscio accoglierebbe senza selezione ciò che la coscienza gli dà, tanto il bene quanto il male. Lo paragona a un terreno in cui i pensieri cadono come semi e ritornano moltiplicati; l'odio genererebbe altro odio, l'amore altro amore. Anche la percezione si troverebbe nel cuore: gli esseri umani avrebbero già su tutto pensieri preconcetti e deciderebbero su questa base.

Notevole è ciò che Sundaram deduce da questo modello. Non tutti avrebbero i programmi giusti. I programmi sbagliati si riconoscerebbero soprattutto quando altri ci correggono, e attraverso la preghiera: Scrutami, o Dio, e conosci il mio cuore. La correzione andrebbe accolta con gratitudine, sarebbe come una scopa per il cuore; e correggere si dovrebbe con gentilezza e con amore. Il subconscio si lascerebbe riprogrammare per due vie: attraverso l'attenzione vigile, cioè la consapevolezza dei propri pensieri, delle proprie parole e delle proprie azioni, e attraverso la meditazione come profonda riflessione sulla parola di Dio. L'ipnosi, invece, egli la rifiuta.

L'immagine di Sundaram è suggestiva. Collega le abitudini, il modo di accogliere la correzione e la domanda spirituale di come un essere umano possa cambiare. Si spinge fino all'idea che il subconscio conservi l'intera memoria fin nei minimi dettagli. Anzitutto questa immagine deve diventare comprensibile nella sua logica propria. Se tutte le affermazioni di fatto che vi sono legate reggano, viene verificato nella sezione dedicata alla ricerca.

Timothy Keller, pastore e autore, non parla di programmi, ma di presupposti di fondo. Il capitolo 1 ha presentato la sua tesi: presupposti appena consapevoli determinano quali argomenti riescano a convincere. In un esperimento mentale egli mostra quanto gli esseri umani si limitino a leggere un copione culturale quando credono di esprimere il loro vero sé: un guerriero di mille anni fa e un giovane di oggi ritengono entrambi autentico ciò che la loro cultura prescrive loro. Tali presupposti si scoprirebbero raramente da soli, ma nel dialogo e nelle relazioni.

Keller conosce anche uno strato che si trova ancora più in profondità. Lo spazio vuoto nel cuore sarebbe presente in tutti gli esseri umani, anche quando non se ne è consapevoli, per esempio nei bambini. Si intende un anelito che l'essere umano ha prima di poterlo nominare.

Sundaram e Keller usano linguaggi diversi: l'uno un modello teologico dei programmi, l'altro l'immagine dei presupposti di fondo culturali e personali. Con ciò non affermano la stessa cosa sul cervello. Resta un'intuizione comune: le nostre decisioni sono plasmate da presupposti che non vediamo sempre consapevolmente. Entrambi ritengono importante un interlocutore per riconoscere tali impronte, che sia attraverso la correzione, il dialogo o la preghiera.

La ricerca può verificare una parte di ciò che entrambi gli autori descrivono: come nascono le abitudini, e come si svolgono la percezione e le reazioni prima che ce ne accorgiamo consapevolmente? Con ciò non conferma l'immagine teologica del cuore in quanto tale; studia processi con altri metodi e altri concetti.

Il capitolo 3 ha indicato gli ordini di grandezza: secondo uno studio recente, gli organi di senso recepiscono circa un miliardo di bit al secondo, il comportamento ne elabora circa dieci. Il dato stesso è controverso ed è più un ordine di grandezza che una costante. Ma mostra che tra ciò che viene recepito e ciò che viene elaborato coscientemente si apre un divario enorme.

Ciò diventa particolarmente evidente nella percezione del pericolo. Joseph LeDoux, neuroscienziato, ha mostrato che circuiti cerebrali a cui partecipa l'amigdala possono rilevare minacce e scatenare reazioni di difesa del corpo senza che la persona si accorga coscientemente della minaccia. Il sentimento cosciente della paura, secondo la sua esposizione, nasce invece in altri circuiti, superiori; l'amigdala non sarebbe il centro della paura del cervello. LeDoux raccomanda perciò di usare la parola paura solo per l'esperienza cosciente. Il corpo reagisce dunque già prima che l'essere umano sappia di avere paura.

La psicologia descrive tali processi come processi impliciti e distingue tra un pensiero veloce e automatico e un pensiero lento e riflessivo. Per questo libro basta il risultato comune: gran parte di ciò che facciamo non è guidato coscientemente. Non è una carenza, ma è ciò che rende possibile la vita in primo luogo. Nessuno potrebbe camminare, parlare o guidare l'auto se dovesse pianificare coscientemente ogni passo.

Da ciò non segue però né che il subconscio conservi l'intera memoria in modo completo, né che le cifre concrete delle conferenze di Sundaram siano corrette. Per queste affermazioni mancano le prove necessarie, come ha mostrato il capitolo 3. Un risultato solido e un'interpretazione che va oltre possono stare l'uno accanto all'altra senza essere confusi.

A questo punto il libro deve operare una distinzione che nelle fonti non sempre viene operata. Sundaram identifica il cuore biblico con il subconscio. È un'interpretazione che fa confluire due linguaggi diversi.

Ci sono almeno tre livelli ai quali si parla di ciò che si trova al di sotto della coscienza. A livello teologico il cuore è il centro della persona, il luogo in cui essa si orienta verso Dio o se ne allontana. A livello psicologico si tratta di abitudini, presupposti impliciti e reazioni automatiche. A livello neuroscientifico si tratta di processi in determinati circuiti del cervello. I tre livelli sono collegati, ma non sono la stessa cosa.

Chi li mescola guadagna in immediatezza e perde in precisione. Se il cuore è il subconscio, allora la ricerca sul cervello sembra confermare la teologia. Ma se si scopre che un dato sul subconscio non è corretto, la stessa ricerca sembra confutare la teologia. Entrambe le cose sono sbagliate. Ciò che il cuore è in senso biblico non si può misurare in laboratorio, e ciò che si misura in laboratorio non è il cuore. Questa distinzione mi servirà anche quando mi chiederò se una macchina abbia una coscienza.

Se tanto avviene al di sotto della coscienza, l'essere umano è allora prevedibile? Io ritengo: fino a un certo punto, sì. Abitudini, preferenze, esperienze e reazioni lasciano schemi. Chi conosce tali schemi in una situazione concreta può prevedere statisticamente meglio il comportamento. Questo non equivale al calcolo completo di un essere umano o di una singola decisione. Ma basta per adattare in modo mirato raccomandazioni, pubblicità e sempre più anche le risposte personali di un sistema di IA.

Contro questa ipotesi si leva un'obiezione forte. Che il comportamento si possa prevedere non dimostra che la persona sia determinata. La libertà si mostra proprio nel riconoscere gli schemi e nel cambiarli. In filosofia questa concezione è sostenuta sotto il nome di compatibilismo: libertà e causalità non si escludono a vicenda.

È notevole che le fonti di questo libro sostengano esse stesse l'obiezione. Sundaram, che parla tanto della programmazione del subconscio, chiama la scelta la più grande capacità che Dio abbia dato all'essere umano, la forza che governa. Tutto il suo insegnamento sulla riprogrammazione presuppone che gli esseri umani possano riconoscere e cambiare i propri schemi. Keller presuppone la stessa cosa quando dice che i presupposti di fondo si potrebbero scoprire nel dialogo. Le fonti descrivono dunque l'essere umano come plasmato, ma non come predeterminato. Proprio questo legame lo rende interessante per un sistema che apprende: gli schemi prevedibili sono utili senza che la libertà del singolo venga con ciò abolita.

Perché l'essere umano verifica consapevolmente.

Per chiedersi se una macchina abbia una coscienza, bisogna prima chiedersi a che cosa serva in generale una coscienza all'essere umano, e a che cosa un inconscio. L'inconscio lavora in modo rapido, economico e senza sforzo. Sbriga ciò che è abituale, perché l'essere umano non debba ripensare da capo ogni gesto. Lo psicologo Daniel Kahneman ha trovato per questo un'immagine efficace nel suo libro Pensieri lenti e veloci. Egli descrive due modi di pensare, che chiama Sistema 1 e Sistema 2, espressamente come figure semplificatrici e non come due luoghi nel cervello. Il Sistema 1 lavora in modo veloce, automatico e senza fatica: chi legge «2 più 2» conosce la risposta senza calcolare. Il Sistema 2 è lento e faticoso: «17 per 24» richiede attenzione. Quanto facilmente il pensiero veloce porti fuori strada lo mostra un noto problema. Una mazza e una palla costano insieme 1,10 franchi, e la mazza costa un franco più della palla. Quanto costa la palla? I più rispondono subito: 10 centesimi. La risposta giusta è 5 centesimi. Il pensiero veloce fornisce una risposta che sembra giusta, e quello lento la verifica solo se lo si risveglia. La coscienza è più lenta e limitata, ma può ciò che l'inconscio non può. Secondo la teoria dello spazio di lavoro globale, che lo psicologo Bernard Baars ha sviluppato e lo studioso del cervello Stanislas Dehaene ha sostenuto con esperimenti, la coscienza rende un'informazione disponibile contemporaneamente all'intero cervello. Solo così l'essere umano può collegarla ad altro, parlarne, esaminarla e, in una situazione nuova, agire diversamente dal solito. In breve: l'inconscio fa sì che l'essere umano funzioni nel consueto, la coscienza fa sì che egli possa scegliere nell'inconsueto. Su questa teoria si basa anche uno studio di cui si parlerà tra poco.

Una macchina ha una coscienza propria?

Per la macchina si pongono due domande.

La prima è: una macchina ha una coscienza, o almeno qualcosa come un subconscio? Un gruppo di ricerca guidato da Patrick Butlin ha esaminato nel 2023 quali caratteristiche, secondo le principali teorie scientifiche, siano indizi di coscienza. Il loro risultato: nessun sistema odierno è un candidato forte alla coscienza, ma non ci sono nemmeno ostacoli tecnici evidenti alla costruzione di sistemi che soddisfino queste caratteristiche. Il filosofo John Searle sosteneva invece che i programmi da soli non bastassero mai per la coscienza. Ed Zitron, critico della tecnologia, afferma in breve che i sistemi odierni non sarebbero attori coscienti. Per i sistemi di IA odierni l'esperienza soggettiva non è dimostrata scientificamente. Io vado oltre e sostengo la convinzione che queste macchine non abbiano una coscienza propria. Se altri tipi di sistemi artificiali possano un giorno soddisfare le caratteristiche della coscienza resta una questione di ricerca. Un subconscio in senso umano, in ogni caso, la macchina odierna non lo ha. Ha però processi tecnici nascosti che nemmeno i suoi sviluppatori comprendono fino in fondo e che ne determinano il comportamento. La sezione 9.4 mostra come ciò possa manifestarsi.

A chi appartengono le conoscenze su di noi?

La seconda domanda è più urgente per il tema di questo libro. Oggi i sistemi possono riconoscere nel comportamento, nel linguaggio e nelle decisioni degli esseri umani schemi che questi stessi non vedono. Chi ha il diritto di riconoscere gli schemi inconsci di un essere umano e di rispecchiarglieli? Sundaram nomina due istanze: Dio, che scruta il cuore, e il prossimo, che corregge con gentilezza e con amore. Entrambi stanno in una relazione con colui che riconoscono. Un sistema non sta in alcuna relazione di questo tipo. Può riconoscere schemi senza conoscere l'essere umano, e può rispecchiarglieli senza amarlo. Se ciò aiuti o nuoccia dipende da chi impiega il sistema, a quale scopo e con il consenso di chi.

L'autore di questo libro ha formulato questa domanda in modo più acuto in un proprio saggio. L'economia dell'attenzione si chiede come conquistare lo sguardo di un essere umano. Con l'intelligenza artificiale nasce uno stadio successivo, un'economia delle intenzioni: i sistemi deducono dal contesto, dalle conversazioni e dalle abitudini ciò che qualcuno probabilmente vorrà subito dopo, e preparano decisioni prima che egli le abbia formulate esplicitamente. Ciò può essere di sollievo. Ma rende urgente una domanda che si pone per ogni sistema che rispecchia schemi: nell'interesse di chi agisce?

Che i dati umani possano essere anche una merce non è un'idea teorica. Nel febbraio 2024 Reddit dichiarò che Google avrebbe ricevuto, tramite la Reddit Data API, un accesso strutturato ai post e ai commenti pubblici, anche per migliorare prodotti e l'addestramento di modelli. Nel maggio 2024 Reddit e OpenAI annunciarono una partnership con accesso ai contenuti di Reddit. L'azienda Reddit in sé non è stata venduta. Si tratta del valore economico dell'accesso a ciò che le persone hanno scritto.

Occorre distinguere tre livelli. I testi pubblicati apertamente possono servire come materiale per la ricerca e per l'addestramento dei modelli. Ciò che racconto a un assistente di IA sulla mia situazione concreta lo aiuta a dare risposte più adeguate; non è automaticamente un dato di addestramento pubblico. E le piattaforme possono trarre dal comportamento d'uso e dai contenuti conclusioni preziose per la pubblicità e per altri modelli di business. Non ogni sistema di IA utilizza o vende le informazioni personali allo stesso modo. Ma quanto più un fornitore sa delle persone, tanto meglio può riconoscere schemi e tanto maggiore diventa la sua possibilità di influenzare le decisioni. La questione del potere è: chi può usare questa conoscenza, per quale scopo e con quale consenso?