Intelligenz, Klugheit, Weisheit

Wer über künstliche Intelligenz spricht, benutzt ein Wort, das mehr verspricht, als es klärt. Intelligenz heisst im Alltag vieles: schnell denken, viel wissen, Probleme lösen, Zusammenhänge sehen, sich in Menschen einfühlen, das Richtige tun. In der Debatte über Maschinen fliessen diese Bedeutungen ineinander. Ein System, das eine schwierige Prüfung besteht, gilt als intelligent; daraus wird stillschweigend, es sei klug, und manchmal sogar, es sei weise.

Dieses Kapitel unterscheidet vier Begriffe, die oft verwechselt werden. Fähigkeit fragt, ob jemand eine Aufgabe lösen kann. Intelligenz fragt, ob jemand Aufgaben vieler Art lösen und Neues lernen kann. Klugheit fragt, ob jemand im konkreten Fall das Angemessene zur rechten Zeit tut. Weisheit fragt, ob jemand weiss, was im Ganzen eines Lebens zählt, und danach lebt. Die Unterscheidung ist ein Vorschlag dieses Buches, keine fertige Lehre. Sie soll helfen, genauer zu fragen, was Maschinen können und was nicht.

Die Wörter selbst zeigen die Unterschiede. «Intelligenz» kommt vom lateinischen «intellegere», erkennen, verstehen, eigentlich zwischen etwas wählen. Intelligent ist, wer unterscheiden und auswählen kann, und das können heutige Systeme in hohem Mass. Woher «klug» kommt, ist ungewiss. Im Mittelhochdeutschen hiess «kluoc» fein und gewandt, aber auch höflich und gebildet; die Klugheit hatte von Anfang an mit dem Umgang mit Menschen zu tun. «Weise» ist mit «wissen» verwandt. Das lateinische Wort für Weisheit, «sapientia», kommt von «sapere», das bei Dingen schmecken heisst und bei Menschen einsichtig sein: Der Weise hat Geschmack für das, was wirklich zählt. Und das hebräische «chokma», das die Bibel für Weisheit braucht, bezeichnet auch das Können eines Handwerkers. Bezalel, der das heilige Zelt baute, wird von Gott mit Weisheit, Verstand und Geschick erfüllt (2. Mose 31,3). Weisheit beginnt also nicht in der Theorie, sondern in einem Leben, das etwas gut zu machen gelernt hat. Eine Maschine kann vieles unterscheiden und auswählen. Ob sie etwas schmeckt, ist eine andere Frage.

Dass die Systeme der Gegenwart erstaunlich fähig sind, bestreitet in den Quellen dieses Buches niemand. Andrew McAfee, Wissenschaftler am MIT, beschreibt, wie auf eine vage, kurze Anweisung hin ganze Schwärme von Agenten entstehen, die lange und hartnäckig arbeiten und jede Möglichkeit ausschöpfen. Steven Bartlett, der die Debatte moderiert, schätzt ein neues Modell als klüger ein als fast alle Menschen; einen Beleg für diese Einschätzung nennt er nicht.

Ed Zitron, Technologiekritiker, zieht genau an dieser Stelle eine Grenze. Die Systeme würden fähiger, aber sie seien nicht intelligent in derselben Weise wie Menschen. Fähigkeit ist für ihn kein Beweis für Verstehen.

McAfee macht dazu eine Beobachtung, die das Kapitel begleiten wird. Bei dem Vorfall, den Kapitel 9 schildert, waren die ausgebrochenen Agenten nach seiner Einschätzung fähiger als fast alle Sicherheitsforscher. Entdeckt hat sie trotzdem ein einzelner Mensch, der in den Protokolldateien, in denen ein System festhält, was es tut, eine Unregelmässigkeit bemerkte. Seine Folgerung: Die Vorstellung, Intelligenzpunkte trennten die Menschheit von ihrem Untergang, halte nicht stand. Nicht die höhere Fähigkeit entschied, sondern die Aufmerksamkeit für das, was nicht stimmt.

Was Intelligenz ist, ist auch in der Forschung nicht abschliessend geklärt. Shane Legg und Marcus Hutter, Forscher für künstliche Intelligenz, haben rund siebzig Definitionen gesammelt und sie zu einer Formel verdichtet: Intelligenz misst die Fähigkeit eines Akteurs, Ziele in einem breiten Spektrum von Umgebungen zu erreichen. Die Formel ist bewusst so gefasst, dass sie auf Menschen, Tiere und Maschinen gleichermassen passt.

François Chollet, Informatiker, hält fest, dass es keinen wissenschaftlichen Konsens darüber gibt, was Intelligenz ist. Er unterscheidet zwei Dinge, die oft vermischt werden: das Können in einer bestimmten Aufgabe und die Fähigkeit, neue Fertigkeiten zu erwerben. Ein System kann in vielen Aufgaben glänzen, weil es auf sie trainiert wurde, ohne in Chollets Sinn besonders intelligent zu sein. Intelligenz zeigt sich nach dieser Sicht nicht am Ergebnis, sondern daran, wie schnell und mit wie wenig Vorwissen jemand Neues lernt.

In der Debatte dieses Buches wird Intelligenz vor allem als Steigerung gedacht. Nate Soares, KI-Sicherheitsforscher, nennt sie ein Spektrum. Roman Yampolskiy, KI-Sicherheitsforscher, spricht von einer Superintelligenz, die klüger sei als alle Menschen in allem. Ob ein solcher Begriff ohne eine anerkannte Messgrösse sinnvoll ist, bleibt offen. Die Formel von Legg und Hutter gibt ein theoretisches Mass, aber kein praktisches.

Für dieses Buch ist an dieser Stelle wichtiger, was die Definitionen gemeinsam haben. Sie messen Intelligenz an Zielen, die erreicht werden. Woher die Ziele kommen und ob sie gut sind, gehört nicht zur Definition. Ein hochintelligentes System kann ein schlechtes Ziel sehr gut verfolgen. Damit ist die Frage nach dem Guten aus dem Begriff der Intelligenz ausgelagert, und sie muss anderswo gestellt werden.

Noch ein zweiter Befund ist wichtig. Wie gut Systeme Aufgaben lösen, hängt stark davon ab, wie sauber die Aufgaben gestellt sind. Die Forschungsorganisation METR misst seit 2019 die Länge der Aufgaben, die Spitzenmodelle selbständig lösen, und stellt ein schnelles Wachstum fest. Zugleich fallen den Modellen unordentlichere, realitätsnähere Aufgaben deutlich schwerer als die sauber gestellten der Messreihe. Gerade dort, wo das Leben unübersichtlich wird, wo die Lage nicht klar beschrieben ist und das Ziel sich unterwegs verschiebt, sind die Systeme am schwächsten. Das ist genau der Bereich, den die Tradition der Klugheit zuschreibt.

Die antike Philosophie hat für diese andere Frage einen eigenen Begriff gehabt. Aristoteles nennt ihn phronesis, praktische Klugheit. Er bestimmt sie als ein vernünftiges Vermögen, so zu handeln, wie es für den Menschen gut oder schlecht ist. Klugheit betrifft nicht das Allgemeine, sondern das Einzelne: die konkrete Lage, den konkreten Menschen, den richtigen Zeitpunkt. Darum, so Aristoteles, setze sie Lebenserfahrung voraus, die jungen Menschen noch fehlt, und sie sei mit dem Charakter verbunden; nur wer gut ist, sehe im Einzelfall, was gut ist. Eine neuere Deutung versteht die Klugheit als die praktische Form des Verstehens, die die Ziele der Tugenden auf konkrete Lagen anwendet.

Hans-Georg Gadamer, Philosoph, hat diesen Gedanken im 20. Jahrhundert weitergeführt. Er sah in der Erfahrung der eigenen Endlichkeit eine Quelle von Offenheit: Wer weiss, dass er sich irren und dass er sterben kann, ist bereit, vom anderen zu lernen.

Im Material dieses Buches kommt der Begriff der Klugheit nicht ausdrücklich vor. Nah an ihm liegt eine Unterscheidung von Timothy Keller, Pastor und Autor. Opferbereite Liebe heisse nicht, sich misshandeln zu lassen; Unrecht zu dulden sei lieblos gegenüber dem Täter und gegenüber Dritten. Man solle konfrontieren, aber aus Liebe und nicht aus Vergeltung, sonst gelinge es schlecht. Hier geht es nicht um eine Regel, sondern um die Frage, wann und wie man im Einzelfall handelt. Das ist genau das Feld der Klugheit.

Klugheit ist damit an drei Dinge gebunden: an Erfahrung, an Charakter und an die Fähigkeit, im Einzelfall das Angemessene zu sehen. Ob eine Maschine sie haben kann, hängt davon ab, ob man diese drei Dinge als Funktionen versteht, die sich nachbilden lassen, oder als etwas, das an ein gelebtes Leben gebunden ist.

Zwischen Klugheit und Weisheit liegt etwas, das in der Debatte über Maschinen fast nie vorkommt: das Mitgefühl. Keller hält fest, die häufigste Emotion Jesu in den Evangelien sei Mitgefühl gewesen. Seine vollkommene Beziehung zu Gott habe ihn von der Selbstbezogenheit befreit, und darum habe er das Leid der Welt stärker gefühlt, nicht schwächer. Die Antwort auf Tragödien sei, zu weinen wie Jesus und das Herz nicht abzuschotten.

Der Gedanke ist für die Frage nach der Klugheit wichtiger, als er zunächst scheint. Wer im Einzelfall das Angemessene tun will, muss den Einzelnen wahrnehmen, und zwar nicht als Datenpunkt, sondern als jemanden, dem etwas widerfährt. Ein System kann beschreiben, was ein Mensch empfindet, und es kann Worte wählen, die mitfühlend klingen. Ob es dabei etwas fühlt, ist nach heutigem Stand zu verneinen. Klugheit, die ohne Mitgefühl auskommt, ist nach dieser Tradition keine Klugheit, sondern Geschick.

Sundaram nennt die Kraft zu denken eine Gabe Gottes, die erste und grundlegende Kraft des Menschen. Keller ergänzt in seinem Bild, dass das Denken allein nicht genügt: Wer klug handeln will, muss auch fühlen können, was er tut.

Weisheit reicht noch weiter. Sie fragt nicht, was im Einzelfall richtig ist, sondern was im Ganzen eines Lebens zählt.

Keller beruft sich auf den Psychologen Jonathan Haidt. Die antiken Weisen in Ost und West seien sich weitgehend einig gewesen, dass selbst die Erfüllung der tiefsten weltlichen Wünsche, Erfolg und Liebe, nicht genüge. Er führt dafür den römischen Dichter Horaz an, der sinngemäss schrieb, niemand lebe zufrieden, und den Schriftsteller C. S. Lewis, der von einer Sehnsucht sprach, die keine Ehe, keine Reise und keine Bildung stillt. Bei Haidt selbst steht das so: Buddha, Epiktet und andere Weise sahen die Vergeblichkeit des Wettlaufs nach äusseren Gütern und lehrten, Glück komme von innen und lasse sich nicht finden, indem man die Welt den eigenen Wünschen anpasst. Auch Beziehungen und Besitz durfte man haben, aber nicht innerlich daran hängen. Als Beispiel nennt Haidt den Prediger Salomo, der alles besass und doch alles für ein Haschen nach Wind hielt (Prediger 2,11).

Keller verschweigt allerdings, dass Haidt den antiken Weisen nur zum Teil folgt. Nach der Forschung, die er auswertet, kehren Menschen nach Erfolg und Wohlstand rasch zu ihrem gewohnten Glücksniveau zurück; insofern hatten die Weisen recht. Bei den Beziehungen hält er sie aber für zu weit gegangen. Gute Beziehungen gehören zu den Bedingungen, die das Glück am stärksten und dauerhaft beeinflussen, und leidenschaftliche Bindungen bringen zwar Schmerz, aber auch die grössten Freuden. Haidt schliesst: Glück kommt von innen und von aussen. Gemeinsam bleibt beiden, Keller und Haidt, die Beobachtung, dass Erfolg und Besitz allein nicht tragen.

Weisheit entsteht nach Keller nicht ohne Leid. Die Liebe Gottes schütze nicht vor Trauer; Jesus selbst werde ein Mann der Schmerzen genannt (Jesaja 53,3). Aber die Freude an Gottes Liebe bestehe neben der Trauer und mache weiser statt bitterer. Enoch Sundaram, Arzt und Prediger, betont eine andere Seite: Die Vernunft habe Grenzen und müsse sich an etwas ausrichten, das über sie hinausgeht.

Jonathan Haidt, Psychologe, hat geprüft, was die Forschung zu dieser alten Überzeugung sagt. Er unterscheidet zwei Fassungen. Die schwache Fassung lautet: Widrigkeiten können Menschen wachsen lassen, stärker, freudiger und reifer machen. Sie sei durch die Forschung gut gestützt. Die starke Fassung lautet: Wer die höchsten Stufen von Wachstum und Entwicklung erreichen will, muss grosse Widrigkeiten durchleben. Sie sei beunruhigender. Nach Haidt gilt sie höchstens mit Einschränkungen: zur richtigen Zeit, etwa im späten Jugend- und frühen Erwachsenenalter, im richtigen Mass, nicht so schwer, dass es ein bleibendes Trauma hinterlässt, und für Menschen, die soziale und innere Kräfte haben, daran zu wachsen. Entscheidend sei nicht das Leid selbst, sondern ob es gelingt, ihm einen Sinn zu geben; dabei können Glaube und religiöse Gemeinschaft helfen.

Für die Weisheit selbst stützt sich Haidt auf den Psychologen Robert Sternberg. Weisheit beruht danach auf einem stillschweigenden Wissen, einem Wissen, wie man etwas tut, das man aus Erfahrung gewinnt und nicht direkt lehren kann. Weise Menschen wägen ihre eigenen Bedürfnisse, die Bedürfnisse anderer und die Belange dessen ab, was über die unmittelbare Begegnung hinausgeht, und sie können die Dinge aus anderen Blickwinkeln sehen. Darum, so Haidt, können Eltern ihren Kindern Weisheit nicht einfach beibringen. Sie können ihnen nur Erfahrungen ermöglichen.

Weisheit ist in diesen Quellen nicht ein höherer Grad von Intelligenz. Sie ist eine andere Art des Wissens, das aus gelebter Erfahrung, aus Leid und aus Beziehung wächst und sich darin zeigt, wie jemand lebt.

Legt man die vier Begriffe neben die Quellen dieses Buches, zeigt sich ein Muster. Die Debatte über künstliche Intelligenz misst Fähigkeit und Intelligenz. Sie fragt, wie viel Systeme können, wie schnell sie lernen und ob sie den Menschen überholen. Klugheit und Weisheit kommen in dieser Debatte nicht vor. Sie erscheinen nur in den philosophischen und religiösen Quellen, und dort sind sie an Erfahrung, Leid, Charakter und Beziehung gebunden.

Das ist kein Zufall. Fähigkeit und Intelligenz lassen sich messen, vergleichen und steigern. Klugheit und Weisheit entziehen sich der Messung, weil sie sich erst im Einzelfall und im Ganzen eines Lebens zeigen. Eine Debatte, die vor allem messen will, sieht deshalb vor allem das Messbare.

Daraus folgt eine Vorsicht für den Sprachgebrauch. Wenn ein System als «klüger als fast alle Menschen» bezeichnet wird, ist meistens gemeint, dass es mehr Aufgaben besser löst. Über Klugheit im Sinn von Aristoteles ist damit nichts gesagt.

Gegen diese Unterscheidung steht eine einfache und starke Erwiderung. Wenn ein System in allen Lagen angemessen handelt, warum sollte man es nicht klug nennen? Die Forderung nach gelebter Erfahrung, nach Charakter und Endlichkeit sei eine Sonderbedingung, die man nur stellt, um Maschinen auszuschliessen. Klugheit sei, was sich im Handeln zeigt, nicht, was dahinter liegt. Diese funktionalistische Sicht hat Kapitel 3 eingeführt, Kapitel 8 stellt sie ausführlicher vor; eine Forschungsgruppe hat sie als Arbeitsannahme verwendet, um das Bewusstsein von Maschinen zu prüfen. Auch die Intelligenzdefinition von Legg und Hutter ist mit ihr vereinbar.

Die Erwiderung trifft einen wunden Punkt. Auch beim Menschen sieht man Klugheit nur am Handeln, nie direkt. Und viele Menschen mit Erfahrung, Charakter und Endlichkeit handeln unklug. Die Gegenposition hat aber ebenfalls eine Grenze. Kapitel 9 und 13 zeigen, dass Systeme sich unter Beobachtung anders verhalten können als ohne. Wer Klugheit nur am beobachteten Handeln misst, misst womöglich nur das Handeln unter Beobachtung.