Bewusstsein, Unterbewusstsein

Die meisten Entscheidungen fühlen sich an, als würden wir sie bewusst treffen. Wir wägen ab, wir wählen, wir handeln. Doch ein grosser Teil dessen, was unser Handeln bestimmt, geschieht, ohne dass wir es bemerken. Wir fahren Auto, ohne über jeden Handgriff nachzudenken. Wir reagieren auf einen Ton in der Stimme eines anderen, bevor wir ihn benennen können. Wir halten Argumente für überzeugend oder nicht, ohne zu wissen, warum.

Dieses Kapitel fragt zuerst, welche Gewohnheiten und Hintergrundannahmen unser Handeln prägen, ohne dass wir sie bewusst bemerken. Dazu stellt es die Deutungen von Enoch Sundaram und Timothy Keller vor und fragt danach, was die Forschung tatsächlich bestätigen kann. Nicht jede Aussage über das Herz ist eine psychologische Aussage, und nicht jeder Vergleich mit einem Computer ist bereits eine Erklärung des Gehirns.

Danach folgt die Frage, die für dieses Buch besonders wichtig ist: Wenn Menschen wiederkehrende Muster zeigen, wie gut lassen sich ihre Entscheidungen vorhersagen? Künstliche Intelligenz kann aus Sprache, Verhalten und Daten solche Muster erkennen. Sie kann damit helfen, einen Menschen besser zu verstehen, sie kann aber auch helfen, ihn zu beeinflussen. Je mehr Informationen jemand über uns besitzt, desto drängender werden die Fragen, wem diese Informationen gehören und wessen Interessen ihre Nutzung dient. Auch bei einem Sprachmodell laufen viele technische Vorgänge ab, die selbst seine Entwickler nicht vollständig nachvollziehen können (Kapitel 13). Das ist noch kein menschliches Unterbewusstsein, aber ein Anlass, genauer nach dem Unterschied zu fragen.

Enoch Sundaram, Arzt und Prediger, beschreibt das Unterbewusstsein mit einem Bild aus der Technik. Es wolle Zeit und Energie sparen und bilde aus Wiederholung Programme oder Gewohnheiten: wie wir Auto fahren, wie wir sprechen, wie wir mit Ehepartnern und Kindern umgehen. Alles Handeln beruhe auf den Programmen im Herzen. Dass Handlungen durch Übung automatisch werden, ist gut bekannt. Sundaram geht weiter: Das Unterbewusstsein nehme ohne Auswahl auf, was das Bewusstsein ihm gibt, Gutes wie Schlechtes. Er vergleicht es mit einem Boden, in den Gedanken als Samen fallen und vervielfältigt zurückkommen; Hass erzeuge mehr Hass, Liebe mehr Liebe. Auch die Wahrnehmung liege im Herzen: Menschen hätten zu allem schon vorgefasste Gedanken und entschieden auf dieser Grundlage.

Bemerkenswert ist, was Sundaram aus diesem Modell folgert. Nicht alle hätten die richtigen Programme. Falsche Programme erkenne man vor allem dann, wenn andere einen korrigieren, und durch das Gebet: Erforsche mich, Gott, und erkenne mein Herz. Korrektur solle man mit Dank annehmen, sie sei wie ein Besen für das Herz; und korrigieren solle man freundlich und liebevoll. Umprogrammieren lasse sich das Unterbewusstsein auf zwei Wegen: durch Achtsamkeit, also das Bewusstsein für die eigenen Gedanken, Worte und Handlungen, und durch Meditation als tiefes Nachdenken über Gottes Wort. Hypnose dagegen lehnt er ab.

Sundarams Bild ist anschaulich. Es verbindet Gewohnheiten, den Umgang mit Korrektur und die geistliche Frage, wie ein Mensch sich verändern kann. Er geht dabei bis zur Vorstellung, das Unterbewusstsein bewahre das gesamte Gedächtnis bis in feinste Einzelheiten auf. Zunächst soll dieses Bild in seiner eigenen Logik verständlich werden. Ob alle damit verbundenen Tatsachenbehauptungen tragen, wird im Forschungsabschnitt geprüft.

Timothy Keller, Pastor und Autor, spricht nicht von Programmen, sondern von Hintergrundannahmen. Kapitel 1 hat seine These vorgestellt: Kaum bewusste Annahmen bestimmen, welche Argumente überhaupt überzeugen. In einem Gedankenexperiment zeigt er, wie sehr Menschen ein kulturelles Skript ablesen, wenn sie glauben, ihr wahres Selbst auszudrücken: Ein Krieger vor tausend Jahren und ein junger Mann von heute halten beide für authentisch, was ihnen ihre Kultur vorgibt. Solche Annahmen entdecke man selten allein, sondern im Gespräch und in Beziehungen.

Keller kennt auch eine Schicht, die noch tiefer liegt. Der Hohlraum im Herzen sei bei allen Menschen vorhanden, auch wenn er nicht bewusst sei, etwa bei Kindern. Gemeint ist eine Sehnsucht, die der Mensch hat, bevor er sie benennen kann.

Sundaram und Keller verwenden verschiedene Sprachen: der eine ein theologisches Programm-Modell, der andere das Bild kultureller und persönlicher Hintergrundannahmen. Sie behaupten damit nicht dasselbe über das Gehirn. Eine gemeinsame Einsicht bleibt: Unsere Entscheidungen sind von Voraussetzungen geprägt, die wir nicht jederzeit bewusst sehen. Beide halten ein Gegenüber für wichtig, um solche Prägungen zu erkennen, sei es durch Korrektur, Gespräch oder Gebet.

Die Forschung kann einen Teil dessen prüfen, was beide Autoren beschreiben: Wie entstehen Gewohnheiten, und wie laufen Wahrnehmung und Reaktionen ab, bevor wir sie bewusst bemerken? Damit bestätigt sie nicht das theologische Bild des Herzens als solches; sie untersucht Vorgänge mit anderen Methoden und Begriffen.

Kapitel 3 hat die Grössenordnungen genannt: Die Sinnesorgane nehmen nach einer neueren Untersuchung rund eine Milliarde Bit pro Sekunde auf, das Verhalten verarbeitet etwa zehn. Die Zahl ist selbst umstritten und eher eine Grössenordnung als eine Konstante. Aber sie zeigt, dass zwischen dem, was aufgenommen, und dem, was bewusst verarbeitet wird, eine gewaltige Lücke liegt.

Besonders deutlich wird das bei der Wahrnehmung von Gefahr. Joseph LeDoux, Neurowissenschaftler, hat gezeigt, dass Schaltkreise im Gehirn, an denen die Amygdala beteiligt ist, Bedrohungen erkennen und Abwehrreaktionen des Körpers auslösen können, ohne dass die Person die Bedrohung bewusst bemerkt. Das bewusste Gefühl der Angst entsteht nach seiner Darstellung dagegen in anderen, höheren Schaltkreisen; die Amygdala sei nicht das Angstzentrum des Gehirns. LeDoux empfiehlt deshalb, das Wort Angst nur für das bewusste Erleben zu verwenden. Der Körper reagiert also schon, bevor der Mensch weiss, dass er sich fürchtet.

Die Psychologie beschreibt solche Vorgänge als implizite Prozesse und unterscheidet zwischen einem schnellen, automatischen und einem langsamen, überlegten Denken. Für dieses Buch genügt der gemeinsame Befund: Ein grosser Teil dessen, was wir tun, wird nicht bewusst gesteuert. Das ist kein Mangel, sondern macht das Leben überhaupt erst möglich. Niemand könnte gehen, sprechen oder Auto fahren, wenn er jeden Schritt bewusst planen müsste.

Daraus folgt aber weder, dass das Unterbewusstsein das gesamte Gedächtnis vollständig speichert, noch dass die konkreten Zahlen aus Sundarams Vorträgen stimmen. Für diese Behauptungen fehlen die nötigen Belege, wie Kapitel 3 gezeigt hat. Ein tragfähiger Befund und eine darüber hinausgehende Deutung können nebeneinanderstehen, ohne verwechselt zu werden.

An dieser Stelle muss das Buch eine Unterscheidung treffen, die in den Quellen nicht immer getroffen wird. Sundaram setzt das biblische Herz mit dem Unterbewusstsein gleich. Das ist eine Deutung, die zwei verschiedene Sprachen zusammenführt.

Es gibt mindestens drei Ebenen, auf denen von dem die Rede ist, was unterhalb des Bewusstseins liegt. Auf der theologischen Ebene ist das Herz die Mitte der Person, der Ort, an dem sie sich auf Gott ausrichtet oder von ihm abwendet. Auf der psychologischen Ebene geht es um Gewohnheiten, implizite Annahmen und automatische Reaktionen. Auf der neurowissenschaftlichen Ebene geht es um Vorgänge in bestimmten Schaltkreisen des Gehirns. Die drei Ebenen hängen zusammen, aber sie sind nicht dasselbe.

Wer sie vermischt, gewinnt Anschaulichkeit und verliert Genauigkeit. Wenn das Herz das Unterbewusstsein ist, dann scheint die Hirnforschung die Theologie zu bestätigen. Wenn sich aber herausstellt, dass eine Zahl über das Unterbewusstsein nicht stimmt, scheint dieselbe Forschung die Theologie zu widerlegen. Beides ist falsch. Was das Herz im biblischen Sinn ist, lässt sich nicht im Labor messen, und was im Labor gemessen wird, ist nicht das Herz. Diese Unterscheidung werde ich auch dann brauchen, wenn ich nach dem Bewusstsein einer Maschine frage.

Wenn so viel unterhalb des Bewusstseins geschieht, ist der Mensch dann berechenbar? Ich meine: bis zu einem gewissen Grad ja. Gewohnheiten, Vorlieben, Erfahrungen und Reaktionen hinterlassen Muster. Wer solche Muster in einer konkreten Situation kennt, kann Verhalten statistisch besser vorhersagen. Das ist nicht dasselbe wie die vollständige Berechnung eines Menschen oder einer einzelnen Entscheidung. Aber es genügt, um Empfehlungen, Werbung und zunehmend auch persönliche Antworten eines KI-Systems gezielt anzupassen.

Gegen diese Hypothese steht ein starker Einwand. Dass sich Verhalten vorhersagen lässt, beweist nicht, dass die Person bestimmt ist. Freiheit zeigt sich gerade darin, Muster zu erkennen und zu ändern. In der Philosophie wird diese Sicht unter dem Namen Kompatibilismus vertreten: Freiheit und Ursächlichkeit schliessen einander nicht aus.

Bemerkenswert ist, dass die Quellen dieses Buches den Einwand selbst stützen. Sundaram, der so viel vom Programmieren des Unterbewusstseins spricht, nennt die Wahl die grösste Fähigkeit, die Gott dem Menschen gegeben habe, die regierende Kraft. Seine ganze Lehre vom Umprogrammieren setzt voraus, dass Menschen ihre Muster erkennen und ändern können. Keller setzt dasselbe voraus, wenn er sagt, Hintergrundannahmen liessen sich im Gespräch entdecken. Die Quellen beschreiben den Menschen also als geprägt, aber nicht als festgelegt. Genau diese Verbindung macht ihn für ein lernendes System interessant: Vorhersagbare Muster sind nützlich, ohne dass die Freiheit des Einzelnen dadurch aufgehoben wäre.

Warum der Mensch bewusst prüft.

Um zu fragen, ob eine Maschine ein Bewusstsein hat, muss man zuerst fragen, wozu ein Mensch überhaupt eines braucht, und wozu ein Unbewusstes. Das Unbewusste arbeitet schnell, sparsam und ohne Anstrengung. Es erledigt das Gewohnte, damit der Mensch nicht jeden Handgriff neu bedenken muss. Der Psychologe Daniel Kahneman hat dafür in seinem Buch «Schnelles Denken, langsames Denken» ein einprägsames Bild gefunden. Er beschreibt zwei Arten zu denken, die er System 1 und System 2 nennt, ausdrücklich als vereinfachende Figuren und nicht als zwei Orte im Gehirn. System 1 arbeitet schnell, automatisch und ohne Mühe: Wer «2 plus 2» liest, kennt die Antwort, ohne zu rechnen. System 2 ist langsam und anstrengend: «17 mal 24» verlangt Aufmerksamkeit. Wie leicht das schnelle Denken in die Irre führt, zeigt eine bekannte Aufgabe. Ein Schläger und ein Ball kosten zusammen 1.10 Franken, und der Schläger kostet einen Franken mehr als der Ball. Was kostet der Ball? Die meisten sagen sofort: 10 Rappen. Richtig sind 5 Rappen. Das schnelle Denken liefert eine Antwort, die sich richtig anfühlt, und das langsame prüft sie nur, wenn man es weckt. Das Bewusstsein ist langsamer und begrenzt, aber es kann, was das Unbewusste nicht kann. Nach der Theorie des globalen Arbeitsraums, die der Psychologe Bernard Baars entwickelt und der Hirnforscher Stanislas Dehaene mit Experimenten gestützt hat, macht das Bewusstsein eine Information dem ganzen Gehirn zugleich verfügbar. Erst dadurch kann der Mensch sie mit anderem verbinden, über sie sprechen, sie prüfen und in einer neuen Lage anders handeln als gewohnt. Kurz gesagt: Das Unbewusste sorgt dafür, dass der Mensch im Gewohnten funktioniert, das Bewusstsein dafür, dass er im Ungewohnten wählen kann. Auf diese Theorie stützt sich auch eine Untersuchung, von der gleich die Rede ist.

Hat eine Maschine ein eigenes Bewusstsein?

Für die Maschine stellen sich zwei Fragen.

Die erste lautet: Hat eine Maschine ein Bewusstsein, oder wenigstens etwas wie ein Unterbewusstsein? Eine Forschungsgruppe um Patrick Butlin hat 2023 untersucht, welche Merkmale nach den führenden wissenschaftlichen Theorien auf Bewusstsein hinweisen. Ihr Ergebnis: Kein heutiges System ist ein starker Kandidat für Bewusstsein, aber es gibt auch keine offensichtlichen technischen Hindernisse, Systeme zu bauen, die diese Merkmale erfüllen. Der Philosoph John Searle hielt dagegen, dass Programme allein für Bewusstsein nie genügen. Ed Zitron, Technologiekritiker, sagt kurz, die heutigen Systeme seien keine bewussten Akteure. Für heutige KI-Systeme ist subjektives Erleben nicht wissenschaftlich nachgewiesen. Ich selbst gehe weiter und vertrete die Überzeugung, dass diese Maschinen kein eigenes Bewusstsein haben. Ob andere Arten künstlicher Systeme eines Tages die Merkmale von Bewusstsein erfüllen könnten, bleibt eine Forschungsfrage. Ein Unterbewusstsein im menschlichen Sinn hat die heutige Maschine jedenfalls nicht. Sie hat aber verborgene technische Vorgänge, die auch ihre Entwickler nicht vollständig durchschauen und die ihr Verhalten bestimmen. Kapitel 9.4 zeigt, wie sich das äussern kann.

Wem gehören die Erkenntnisse über uns?

Die zweite Frage ist für das Thema dieses Buches dringlicher. Systeme können heute Muster im Verhalten, in der Sprache und in den Entscheidungen von Menschen erkennen, die diese selbst nicht sehen. Wer darf die unbewussten Muster eines Menschen erkennen und ihm spiegeln? Sundaram nennt zwei Instanzen: Gott, der das Herz erforscht, und den Mitmenschen, der freundlich und liebevoll korrigiert. Beide stehen in einer Beziehung zu dem, den sie erkennen. Ein System steht in keiner solchen Beziehung. Es kann Muster erkennen, ohne den Menschen zu kennen, und es kann sie spiegeln, ohne ihn zu lieben. Ob das hilft oder schadet, hängt davon ab, wer das System einsetzt, wozu und mit wessen Einverständnis.

Der Autor dieses Buches hat diese Frage in einem eigenen Essay zugespitzt. Die Aufmerksamkeitsökonomie fragt, wie sie den Blick eines Menschen gewinnt. Mit künstlicher Intelligenz entsteht eine nächste Stufe, eine Ökonomie der Absichten: Systeme leiten aus Kontext, Gesprächen und Gewohnheiten ab, was jemand wahrscheinlich als Nächstes will, und bereiten Entscheidungen vor, bevor er sie ausdrücklich formuliert hat. Das kann entlasten. Aber es macht eine Frage dringlich, die sich bei jedem System stellt, das Muster spiegelt: In wessen Interesse handelt es?

Dass menschliche Daten auch eine Ware sein können, ist kein theoretischer Gedanke. Im Februar 2024 erklärte Reddit, Google erhalte über die Reddit Data API einen strukturierten Zugang zu öffentlichen Beiträgen und Kommentaren, auch um Produkte und das Training von Modellen zu verbessern. Im Mai 2024 kündigten Reddit und OpenAI eine Partnerschaft mit Zugang zu Reddit-Inhalten an. Das Unternehmen Reddit selbst wurde damit nicht verkauft. Es geht um den wirtschaftlichen Wert des Zugangs zu dem, was Menschen geschrieben haben.

Dabei sind drei Ebenen zu unterscheiden. Öffentlich gepostete Texte können als Material für Suche und Modelltraining dienen. Was ich einem KI-Assistenten über meine konkrete Situation erzähle, hilft ihm, passendere Antworten zu geben; das ist nicht automatisch ein öffentliches Trainingsdatum. Und Plattformen können aus Nutzungsverhalten und Inhalten Rückschlüsse ziehen, die für Werbung und andere Geschäftsmodelle wertvoll sind. Nicht jedes KI-System nutzt oder verkauft persönliche Angaben auf dieselbe Weise. Aber je mehr ein Anbieter über Menschen weiss, desto besser kann er Muster erkennen und desto grösser wird seine Möglichkeit, Entscheidungen zu beeinflussen. Die Machtfrage lautet: Wer darf dieses Wissen nutzen, wofür und mit welchem Einverständnis?