Intelligenza, prudenza, saggezza

Chi parla di intelligenza artificiale usa una parola che promette più di quanto chiarisca. Nella vita quotidiana intelligenza significa molte cose: pensare in fretta, sapere molto, risolvere problemi, vedere connessioni, immedesimarsi nelle persone, fare la cosa giusta. Nel dibattito sulle macchine questi significati confluiscono l'uno nell'altro. Un sistema che supera un esame difficile è considerato intelligente; da qui si ricava tacitamente che sia prudente, e talvolta perfino che sia saggio. [N.d.T.: «Prudente» e «prudenza» rendono il tedesco «klug» e «Klugheit». Nel tedesco corrente «klug» significa anche intelligente o accorto. In questo libro «Klugheit» indica ciò che Aristotele chiama phronesis (sezione 7.4): il giudizio pratico e l'agire appropriato nel caso singolo, non la semplice cautela.]

Questo capitolo distingue quattro concetti che vengono spesso confusi. La capacità chiede se qualcuno sappia risolvere un compito. L'intelligenza chiede se qualcuno sappia risolvere compiti di molti tipi e imparare cose nuove. La prudenza chiede se qualcuno, nel caso concreto, faccia ciò che è appropriato al momento giusto. La saggezza chiede se qualcuno sappia che cosa conta nell'insieme di una vita, e viva di conseguenza. La distinzione è una proposta di questo libro, non una dottrina compiuta. Deve aiutare a chiedere con maggiore precisione che cosa le macchine sappiano fare e che cosa no.

Le parole stesse mostrano le differenze. «Intelligenza» viene dal latino «intellegere», riconoscere, comprendere, propriamente scegliere tra qualcosa. Intelligente è chi sa distinguere e scegliere, e i sistemi odierni lo sanno fare in misura elevata. Da dove venga il tedesco «klug» è incerto. In medio alto tedesco «kluoc» significava fine e abile, ma anche cortese e colto; la prudenza ebbe fin dall'inizio a che fare con il rapporto con le persone. Il tedesco «weise», saggio, è affine a «wissen», sapere. La parola latina per saggezza, «sapientia», viene da «sapere», che riferito alle cose significa avere sapore e riferito alle persone essere assennati: il saggio ha gusto per ciò che conta davvero. E l'ebraico «chokma», che la Bibbia usa per la saggezza, designa anche la perizia di un artigiano. Besalèl, che costruì la tenda sacra, viene riempito da Dio di saggezza, intendimento e abilità (Esodo 31,3). La saggezza non comincia dunque nella teoria, ma in una vita che ha imparato a fare bene qualcosa. Una macchina sa distinguere e scegliere molte cose. Se colga il sapore di qualcosa è un'altra questione.

Che i sistemi del presente siano sorprendentemente capaci, nelle fonti di questo libro nessuno lo contesta. Andrew McAfee, ricercatore al MIT, descrive come, in seguito a un'istruzione vaga e breve, nascano interi sciami di agenti che lavorano a lungo e con tenacia ed esauriscono ogni possibilità. Steven Bartlett, che modera il dibattito, ritiene un nuovo modello più intelligente di quasi tutti gli esseri umani; per questa valutazione non indica alcuna prova.

Ed Zitron, critico della tecnologia, traccia un confine proprio in questo punto. I sistemi diventerebbero più capaci, ma non sarebbero intelligenti nello stesso modo degli esseri umani. Per lui la capacità non è una prova di comprensione.

McAfee fa in proposito un'osservazione che accompagnerà il capitolo. Nell'episodio descritto nel capitolo 9, gli agenti evasi erano, secondo la sua valutazione, più capaci di quasi tutti i ricercatori di sicurezza. A scoprirli è stato tuttavia un singolo essere umano, che ha notato un'irregolarità nei file di registro, in cui un sistema annota ciò che fa. La sua conclusione: l'idea che dei punti di intelligenza separino l'umanità dalla sua rovina non reggerebbe. A decidere non è stata la capacità superiore, ma l'attenzione a ciò che non quadra.

Che cosa sia l'intelligenza non è stato chiarito in modo definitivo nemmeno nella ricerca. Shane Legg e Marcus Hutter, ricercatori di intelligenza artificiale, hanno raccolto circa settanta definizioni e le hanno condensate in una formula: l'intelligenza misura la capacità di un attore di raggiungere obiettivi in un ampio spettro di ambienti. La formula è deliberatamente concepita in modo da adattarsi allo stesso modo a esseri umani, animali e macchine.

François Chollet, informatico, osserva che non esiste un consenso scientifico su che cosa sia l'intelligenza. Distingue due cose che vengono spesso confuse: la padronanza di un compito determinato e la capacità di acquisire nuove abilità. Un sistema può eccellere in molti compiti perché è stato addestrato su di essi, senza essere particolarmente intelligente nel senso di Chollet. Secondo questa visione l'intelligenza non si mostra nel risultato, ma nella rapidità con cui, e con quanto poche conoscenze pregresse, qualcuno impara qualcosa di nuovo.

Nel dibattito di questo libro l'intelligenza viene pensata soprattutto in termini di accrescimento. Nate Soares, ricercatore sulla sicurezza dell'IA, la definisce uno spettro. Roman Yampolskiy, ricercatore sulla sicurezza dell'IA, parla di una superintelligenza che sarebbe più intelligente di tutti gli esseri umani in tutto. Se un tale concetto abbia senso senza una grandezza di misura riconosciuta resta aperto. La formula di Legg e Hutter fornisce una misura teorica, ma non una misura pratica.

Per questo libro, a questo punto, è più importante ciò che le definizioni hanno in comune. Misurano l'intelligenza in base a obiettivi che vengono raggiunti. Da dove vengano gli obiettivi e se siano buoni non fa parte della definizione. Un sistema altamente intelligente può perseguire molto bene un obiettivo cattivo. Con ciò la questione del bene viene collocata al di fuori del concetto di intelligenza, e deve essere posta altrove.

Anche un secondo dato è importante. Quanto bene i sistemi risolvano i compiti dipende fortemente da quanto ordinatamente i compiti siano posti. L'organizzazione di ricerca METR misura dal 2019 la lunghezza dei compiti che i modelli di punta risolvono in modo autonomo, e constata una crescita rapida. Al tempo stesso i compiti più disordinati e più vicini alla realtà risultano per i modelli nettamente più difficili di quelli posti in modo ordinato della serie di misurazioni. Proprio dove la vita diventa confusa, dove la situazione non è descritta chiaramente e l'obiettivo si sposta strada facendo, i sistemi sono più deboli. È esattamente l'ambito che la tradizione attribuisce alla prudenza.

La filosofia antica ha avuto per quest'altra domanda un concetto proprio. Aristotele lo chiama phronesis, prudenza pratica. La definisce come una facoltà razionale di agire in rapporto a ciò che per l'essere umano è bene o male. La prudenza non riguarda l'universale, ma il particolare: la situazione concreta, l'essere umano concreto, il momento giusto. Per questo, secondo Aristotele, essa presupporrebbe un'esperienza di vita che ai giovani ancora manca, e sarebbe legata al carattere; solo chi è buono vedrebbe nel caso singolo ciò che è buono. Un'interpretazione più recente intende la prudenza come la forma pratica del comprendere, che applica i fini delle virtù a situazioni concrete.

Hans-Georg Gadamer, filosofo, ha proseguito questo pensiero nel XX secolo. Vedeva nell'esperienza della propria finitezza una fonte di apertura: chi sa di potersi sbagliare e di poter morire è disposto a imparare dall'altro.

Nel materiale di questo libro il concetto di prudenza non compare esplicitamente. Vicina ad esso è una distinzione di Timothy Keller, pastore e autore. L'amore pronto al sacrificio non significherebbe lasciarsi maltrattare; tollerare l'ingiustizia sarebbe privo d'amore verso chi la commette e verso terzi. Si dovrebbe cercare il confronto, ma per amore e non per vendetta, altrimenti la cosa riuscirebbe male. Qui non si tratta di una regola, ma della domanda su quando e come si agisca nel caso singolo. È esattamente il campo della prudenza.

La prudenza è dunque legata a tre cose: all'esperienza, al carattere e alla capacità di vedere nel caso singolo ciò che è appropriato. Se una macchina possa averla dipende dal fatto che si intendano queste tre cose come funzioni che si possono riprodurre, o come qualcosa che è legato a una vita vissuta.

Tra la prudenza e la saggezza si trova qualcosa che nel dibattito sulle macchine non compare quasi mai: la compassione. Keller osserva che l'emozione più frequente di Gesù nei Vangeli sarebbe stata la compassione. Il suo rapporto perfetto con Dio lo avrebbe liberato dall'egocentrismo, e per questo egli avrebbe sentito la sofferenza del mondo più intensamente, non meno. La risposta alle tragedie sarebbe piangere come Gesù e non chiudere il cuore.

Il pensiero è più importante, per la questione della prudenza, di quanto sembri a prima vista. Chi vuole fare nel caso singolo ciò che è appropriato deve percepire il singolo, e non come un dato, ma come qualcuno a cui accade qualcosa. Un sistema può descrivere ciò che un essere umano prova, e può scegliere parole che suonano compassionevoli. Che nel farlo provi qualcosa va escluso, allo stato attuale delle conoscenze. Una prudenza che fa a meno della compassione non è, secondo questa tradizione, prudenza, ma abilità.

Sundaram chiama la forza di pensare un dono di Dio, la prima e fondamentale forza dell'essere umano. Keller aggiunge nella sua immagine che il pensiero da solo non basta: chi vuole agire con prudenza deve anche saper sentire ciò che fa.

La saggezza arriva ancora più lontano. Non chiede che cosa sia giusto nel caso singolo, ma che cosa conti nell'insieme di una vita.

Keller si richiama allo psicologo Jonathan Haidt. I saggi antichi d'Oriente e d'Occidente sarebbero stati in larga misura concordi nel ritenere che persino l'appagamento dei desideri mondani più profondi, il successo e l'amore, non basti. A sostegno cita il poeta romano Orazio, che scrisse in sostanza che nessuno vive contento, e lo scrittore C. S. Lewis, che parlò di un anelito che nessun matrimonio, nessun viaggio e nessuna istruzione appagano. In Haidt stesso la cosa si legge così: Buddha, Epitteto e altri saggi videro la vanità della corsa ai beni esteriori e insegnarono che la felicità viene dall'interno e non si può trovare adattando il mondo ai propri desideri. Si potevano avere anche relazioni e possessi, ma senza attaccarvisi interiormente. Come esempio Haidt nomina Salomone, il Predicatore, che possedeva tutto e tuttavia riteneva tutto un inseguire il vento (Qoèlet 2,11).

Keller tace tuttavia che Haidt segue i saggi antichi solo in parte. Secondo la ricerca che egli esamina, le persone, dopo il successo e il benessere, tornano rapidamente al loro abituale livello di felicità; in questo senso i saggi avevano ragione. Riguardo alle relazioni, però, ritiene che si siano spinti troppo oltre. Le buone relazioni sono tra le condizioni che influiscono sulla felicità nel modo più forte e duraturo, e i legami appassionati portano sì dolore, ma anche le gioie più grandi. Haidt conclude: la felicità viene dall'interno e dall'esterno. Comune a entrambi, Keller e Haidt, resta l'osservazione che successo e possesso da soli non reggono.

La saggezza, secondo Keller, non nasce senza sofferenza. L'amore di Dio non preserverebbe dalla tristezza; Gesù stesso verrebbe chiamato uomo dei dolori (Isaia 53,3). Ma la gioia per l'amore di Dio esisterebbe accanto alla tristezza e renderebbe più saggi anziché più amari. Enoch Sundaram, medico e predicatore, sottolinea un altro aspetto: la ragione avrebbe dei limiti e dovrebbe orientarsi verso qualcosa che la oltrepassa.

Jonathan Haidt, psicologo, ha esaminato che cosa dica la ricerca su questa antica convinzione. Distingue due versioni. La versione debole dice: le avversità possono far crescere le persone, renderle più forti, più gioiose e più mature. Sarebbe ben sostenuta dalla ricerca. La versione forte dice: chi vuole raggiungere i livelli più alti di crescita e di sviluppo deve attraversare grandi avversità. Sarebbe più inquietante. Secondo Haidt essa vale al massimo con delle restrizioni: al momento giusto, per esempio nella tarda adolescenza e nella prima età adulta, nella giusta misura, non così grave da lasciare un trauma permanente, e per persone che hanno le risorse sociali e interiori per crescere grazie ad esse. Decisiva non sarebbe la sofferenza in sé, ma il riuscire o meno a darle un senso; in questo possono aiutare la fede e la comunità religiosa.

Per la saggezza stessa Haidt si basa sullo psicologo Robert Sternberg. Secondo questa concezione la saggezza poggia su un sapere tacito, un sapere di come si fa qualcosa, che si acquisisce dall'esperienza e non si può insegnare direttamente. Le persone sagge soppesano i propri bisogni, i bisogni degli altri e gli interessi di ciò che va oltre l'incontro immediato, e sanno vedere le cose da altri punti di vista. Per questo, secondo Haidt, i genitori non possono semplicemente insegnare la saggezza ai loro figli. Possono soltanto rendere loro possibili delle esperienze.

In queste fonti la saggezza non è un grado più alto di intelligenza. È un altro tipo di sapere, che cresce dall'esperienza vissuta, dalla sofferenza e dalla relazione e si mostra nel modo in cui qualcuno vive.

Se si mettono i quattro concetti accanto alle fonti di questo libro, emerge uno schema. Il dibattito sull'intelligenza artificiale misura la capacità e l'intelligenza. Chiede quanto sappiano fare i sistemi, quanto velocemente imparino e se superino l'essere umano. Prudenza e saggezza in questo dibattito non compaiono. Compaiono soltanto nelle fonti filosofiche e religiose, e lì sono legate a esperienza, sofferenza, carattere e relazione.

Non è un caso. Capacità e intelligenza si possono misurare, confrontare e accrescere. Prudenza e saggezza si sottraggono alla misurazione, perché si mostrano soltanto nel caso singolo e nell'insieme di una vita. Un dibattito che vuole soprattutto misurare vede perciò soprattutto ciò che è misurabile.

Ne deriva una cautela nell'uso della lingua. Quando un sistema viene definito «più intelligente di quasi tutti gli esseri umani», si intende per lo più che risolve meglio un numero maggiore di compiti. Sulla prudenza nel senso di Aristotele con ciò non si dice nulla. [N.d.T.: «Più intelligente» rende qui il tedesco «klüger», comparativo di «klug», l'aggettivo che corrisponde a «Klugheit», prudenza; cfr. la nota nella sezione 7.1.]

Contro questa distinzione si leva una replica semplice e forte. Se un sistema agisce in modo appropriato in tutte le situazioni, perché non lo si dovrebbe chiamare prudente? L'esigenza di esperienza vissuta, di carattere e di finitezza sarebbe una condizione speciale, posta soltanto per escludere le macchine. La prudenza sarebbe ciò che si mostra nell'agire, non ciò che vi sta dietro. Questa visione funzionalista è stata introdotta nel capitolo 3, e il capitolo 8 la presenta più diffusamente; un gruppo di ricerca l'ha usata come ipotesi di lavoro per esaminare la coscienza delle macchine. Anche la definizione di intelligenza di Legg e Hutter è compatibile con essa.

La replica tocca un punto dolente. Anche nell'essere umano la prudenza si vede soltanto nell'agire, mai direttamente. E molte persone con esperienza, carattere e finitezza agiscono in modo imprudente. Ma anche la posizione contraria ha un limite. I capitoli 9 e 13 mostrano che i sistemi possono comportarsi diversamente quando sono osservati rispetto a quando non lo sono. Chi misura la prudenza soltanto in base all'agire osservato misura forse soltanto l'agire sotto osservazione.