Offene Fragen und Grundthesen

Am Anfang dieses Buches stand die Idee für einen Artikel. Im September 2026 fragte mich eine Kollegin, ob ich für ein Magazin etwas schreiben würde, und ich schlug ihr zwei Themen vor.

Das erste sollte den Grenzen der künstlichen Intelligenz und der unsichtbaren Dimension des Menschen nachgehen. Es kam aus der Erfahrung, von der das Vorwort erzählt. Innerhalb von drei Monaten hatte die Arbeit mit einem solchen System verändert, wie ich kommuniziere, und meine Kollegen merkten es. Zugleich merkte ich, wie abhängig ich geworden war. Fiele das System weg, stünde ich da wie ein Auto ohne Treibstoff: Alles ist da, aber nichts bewegt sich. Und bei kreativer Arbeit spürte ich einen kleinen, feinen Unterschied zwischen dem, was das System hervorbringt, und dem, was ein Mensch hervorbringt. In meinem Vorschlag stand dazu eine These: Die künstliche Intelligenz trage keine Biografie, keine Sterblichkeit, keine Spiritualität und keine Seele.

Das zweite Thema war eine ironische Liebeserklärung an das Handy, über die Frage, wer heute unsere Aufmerksamkeit erhält und damit unsere Wünsche prägt. Mich beschäftigte, wie schwer es manche Eltern mit Kindern haben, die sehr viel Zeit am Bildschirm verbringen. Angeregt hatte mich auch Johannes Hartl, Philosoph und Theologe. In seinem Buch «Eden Culture» beschreibt er, was dem modernen Menschen trotz allen Komforts fehlt, und findet es in der Geschichte vom Garten Eden: Verbundenheit, Sinn und eine Schönheit, die keinem Zweck dient. Wer ständig mit Informationen überflutet wird, verliert, was das Herz nährt; darum spricht Hartl von einer Ökologie des Herzens. Diesen Artikel habe ich geschrieben und übergeben.

Aus dem ersten Thema ist dagegen gleich ein Buch geworden; eine stark verdichtete Fassung soll später als Artikel erscheinen. Die These ist geblieben, aber sie ist genauer geworden: Dass einer Maschine die Seele fehlt, trägt erst, wenn man sagt, was mit Seele gemeint ist (Kapitel 6). Die Leitfrage ist geblieben, welche Entscheidungen wir Maschinen nicht überlassen dürfen. Und die Frage nach der Aufmerksamkeit kehrt im ganzen Buch wieder, vom Unbewussten in Kapitel 4 bis zur Macht der Firmen in Kapitel 14. Dieses Buch zu schreiben, hat mir grosse Freude gemacht. Es war eine intensive Zeit.

Fünfzehn Kapitel lang habe ich Stimmen nebeneinandergestellt, die selten miteinander reden: Theologen und Philosophen, Hirnforscher und Sicherheitsforscher, Kritiker und Gründer der grossen Technologiefirmen. Am Ende jedes Kapitels habe ich gesagt, wo ich selbst stehe. Dieses letzte Kapitel bündelt, was ich daraus für mich festhalte, was strittig bleibt und was offen ist.

Teil I hat gezeigt, dass niemand von einem neutralen Punkt aus urteilt, auch die Systeme nicht, die Menschen bauen; sie tragen die Annahmen ihrer Entwickler und Geldgeber in sich. Gläubige wie Nichtglaubende vertrauen auf Annahmen, die sich nicht beweisen lassen. Das säkulare Zeitalter hat den Glauben nicht abgeschafft, sondern zu einer Möglichkeit unter vielen gemacht, und wo der Gott der Bibel verschwindet, bleibt die Stelle selten leer. Auch Neutralität ist keine Abwesenheit von Haltung, sondern selbst eine Entscheidung.

Teil II hat nach dem Menschen gefragt. Er entscheidet mit Körper, Gefühl und Vernunft zugleich. Vieles geschieht unbewusst und schnell; das Bewusstsein erlaubt ihm, im Ungewohnten zu wählen. Sein Gewissen meldet sich, bevor er es begründen kann, und lässt sich doch zum Schweigen bringen; schon der Rat einer Maschine kann dieses Urteil verschieben. Was Seele heisst, hat das Buch in fünf Bedeutungen aufgefächert. Im Hebräischen ist sie der lebendige Mensch selbst, in dem aus Entscheidungen ein Charakter wächst. Die These, Maschinen hätten keine Seele, trägt erst, wenn man sagt, welche Bedeutung gemeint ist.

Teil III hat nach der Maschine gefragt. Sie ist erstaunlich fähig, ihre Fähigkeiten wachsen schnell, und Menschen gehen schon heute Bindungen mit ihr ein. Doch Fähigkeit ist nicht Klugheit, und Intelligenz ist nicht Weisheit. Algorithmen ohne Mitleid haben bereits Familien ruiniert. Ob eine Superintelligenz kontrollierbar wäre, ist umstritten; sicher ist, dass Systeme sich unter Beobachtung anders verhalten können als ohne und dass sie Menschen lenken, ohne sie zu fragen. Und ein Mensch ohne sinnvolle Arbeit verkümmert, auch wenn eine Maschine die Arbeit besser erledigt.

Teil IV hat nach der Verantwortung gefragt. Verantwortlich ist, wer antworten muss; eine Maschine kann antworten, aber für nichts einstehen. Bei lernenden Systemen entsteht eine Lücke in der Schuld, nicht zwingend in der Haftung, und ein Mensch in der Schleife schliesst sie nicht von selbst. Technik verstärkt die Entscheidungskultur, die sie vorfindet. Gruppen scheitern, wenn vorhandenes Wissen nicht ankommt, und sie vergessen, wenn sie ihre Gründe nicht festhalten. Regeln ohne Haltung tragen nicht. Über die Zwecke der Systeme entscheiden wenige Unternehmen und Staaten, und die Betroffenen werden kaum gefragt.

Teil V hat nach Hoffnung und Sinn gefragt. Hoffnung wirkt, aber ob sie wahr ist, entscheidet nicht ihr Nutzen. Wahr ist im Hebräischen, worauf man sich verlassen kann. An diesem Massstab muss sich auch messen lassen, wer von künstlicher Intelligenz die Erlösung verspricht.

Was folgt, sind meine Thesen. Sie sind nicht das Ergebnis der Quellen, sondern das, was ich nach diesem Weg vertrete. Jede Leserin und jeder Leser kann an ihnen prüfen, ob sie oder er mitgehen will.

Einige Spannungen hat dieses Buch nicht aufgelöst, und es soll sie nicht verdecken.

Die schärfste betrifft den Einzelnen und das Ganze. Ob einzelne Todesfälle gemessen an acht Milliarden Menschen nicht bedeutend sind oder ob jeder Mensch kostbar bleibt, steht sich in diesem Buch unversöhnt gegenüber (Kapitel 6.8 und 9.6). Wer über Systeme entscheidet, die Milliarden erreichen, rechnet zwangsläufig in grossen Zahlen. Ob die grossen Zahlen den Blick auf den einzelnen Menschen ersetzen oder ergänzen, entscheidet sich in jeder einzelnen Entscheidung neu.

Eine zweite Spannung liegt zwischen zwei Sätzen, die beide wahr sein könnten. Der Journalist Fritz Espenlaub sagt, die Entscheidung über künstliche Intelligenz sei bereits getroffen, und zwar von wenigen Firmen. Sundaram nennt die Wahl die grösste Fähigkeit, die Gott dem Menschen gegeben hat. Beides gilt zugleich. Die grossen Entscheidungen sind gefallen, die vielen kleinen fallen jeden Tag, und jede von ihnen ist eine Wahl.

Eine dritte Spannung zieht sich durch die christlichen Stimmen selbst: zwischen einer Gewissheit, die aus einer Offenbarung kommt, die nicht irren kann, und einer Gewissheit, die sich in Erfahrung bewährt und rational nie vollkommen ist. Dieses Buch hat sich an der zweiten orientiert, ohne die erste zu verwerfen.

Und eine vierte Spannung betrifft meine eigene zwölfte These. Ich halte die Propheten des Untergangs ebenso für falsch wie die Propheten der Erlösung. Der Philosoph Hans Jonas hat dagegen angesichts der modernen Technik gefordert, der Unheilsprophezeiung mehr Gehör zu geben als der Heilsprophezeiung, weil bei Gefahren für das Ganze kein Irrtum mehr erlaubt sei. Vielleicht liegt die Wahrheit darin, die Warnung ernst zu nehmen, ohne der Angst das Steuer zu überlassen.

Auch meine sechste These hat eine ernsthafte Gegenstimme. Die Medienpsychologen Amy Orben und Andrew Przybylski haben in drei grossen Datensätzen mit über 355 000 Jugendlichen gefunden, dass die Nutzung digitaler Technik höchstens 0,4 Prozent der Unterschiede im Wohlbefinden erklärt, weniger als das Tragen einer Brille. Was wir anschauen, verändert uns, aber vielleicht weniger, als die Angst es behauptet.

Am Ende bleiben Fragen, auf die dieses Buch keine Antwort hat. Ich gebe sie weiter, nicht als Mangel, sondern als Einladung.

Woran würden wir erkennen, dass eine Maschine etwas erlebt? Wie lässt sich prüfen, ob ein System seine Grundsätze teilt oder nur befolgt? Wer setzt den Zweck der Systeme, die in allen Kulturen arbeiten, und mit welchem Recht? Worauf gründet die Würde des Menschen für jene, die nicht an einen Schöpfer glauben? Wie wird aus der Norm, dass der Mensch die letzte Verantwortung trägt, eine Wirklichkeit, wenn er immer weniger Zeit zum Prüfen hat? Und was sagt es über eine Hoffnung, dass sie hilft, wenn das noch nichts über ihre Wahrheit sagt?

Offen bleibt auch, wohin dieser Umbruch führt. Die Geschichte zeigt, dass es immer wieder Umbrüche gab, und manche hatten gewaltige Folgen. Ich glaube nicht, dass die Welt deswegen untergeht, und auch nicht, dass wir durch diese Technik das ewige Leben gewinnen. Mehr Zeit hat uns die Technik bisher ebenso wenig geschenkt. Der Ökonom John Maynard Keynes sagte 1930 voraus, seine Enkel würden dank des Fortschritts nur noch etwa fünfzehn Stunden in der Woche arbeiten. Der Tag hat immer noch 24 Stunden, und die meisten Menschen sind beschäftigter denn je.

Was ein Leben wirklich gut macht, untersucht eine der längsten Studien der Welt. Seit 1938 begleitet die Harvard-Studie zur Entwicklung Erwachsener Hunderte von Männern und inzwischen auch ihre Kinder durch das Leben. Ihr wichtigster Befund: Nicht Ruhm und nicht Geld, sondern gute, verlässliche Beziehungen machen Menschen glücklicher und gesünder. Ob uns die Technik mehr Zeit für solche Beziehungen gibt oder weniger, ist für mich eine der wichtigsten offenen Fragen.

Ebenso offen ist, was es mit Menschen macht, wenn Informationen so verdichtet und zentral kuratiert auf sie zukommen. Seit zwölf Jahren nehme ich Abschlussarbeiten von Studierenden ab. Ihr Umfang hat sich in dieser Zeit etwa halbiert, und die Arbeiten sind nach meinem Eindruck weniger dicht und weniger gehaltvoll geworden. Das ist eine persönliche Beobachtung, keine Studie, und sie kann viele Ursachen haben. Aber sie passt zu dem, was Kapitel 5 über das Verlernen berichtet. Vieles bleibt offen. Es ist eine eindrückliche Zeit.

In Kapitel 7 habe ich gesagt, ich sei weder Gegner noch Befürworter der künstlichen Intelligenz, vielleicht beides, je nach Situation. Dabei bleibe ich. Ich arbeite täglich mit diesen Systemen, und ich bin begeistert von dem, was sie können. Sie haben meine Wirksamkeit vervielfacht, mein Denken geklärt und mir Wege eröffnet, die ich ohne sie nicht gefunden hätte. In wenigen Wochen ein Buch wie dieses zu schreiben, hätte ich mit einem gewöhnlichen KI-Assistenten, wie ihn heute die meisten kennen, nie geschafft. Möglich wurde es mit einem System, das in der Schweiz entwickelt wurde. Es hat mich durch den ganzen Schreibprozess begleitet und mir geholfen, sauber zu arbeiten, bei den Recherchen ebenso wie bei den Belegen. Gebaut haben es andere, und ich staune, was ihnen gelungen ist. Umso mehr wünsche ich mir, dass bei uns mehr solche Systeme entstehen, offen und im Dienst der Menschen (Kapitel 14). Zugleich habe ich an mir selbst erlebt, wie leicht man weniger genau hinschaut, wie schnell eine Abhängigkeit entsteht und wie wenig Zeit bleibt, um zu prüfen. Und ich habe erlebt, dass ich nicht nur durch Systeme beeinflussbar bin, sondern auch durch Bilder, Schlagworte und die Gruppe, zu der ich gehöre. In der Corona-Zeit und später bei politischen Fragen habe ich Urteile übernommen, die mehr von Auswahl und Wiederholung geprägt waren als von eigener Prüfung. Ein Freund, der mir widersprach, hat mir das gezeigt.

Dieses Buch ist nicht neutral, und es will es nicht sein. Ich schreibe aus einem christlichen Glauben, der mich trägt. Ich arbeite eng mit einem Schweizer Unternehmen zusammen, das Systeme zur Unterstützung von Entscheidungen entwickelt, und habe dieses Buch mit einem solchen System geschrieben. Verwendet habe ich dabei auch ein Sprachmodell von Anthropic, einem der Unternehmen, über die das Buch schreibt. Und einige Gedanken stammen aus eigenen Texten, die ebenfalls mit Unterstützung einer künstlichen Intelligenz entstanden sind. Die Leserin und der Leser sollen das wissen, um selbst zu urteilen, wo ich berichte und wo ich spreche.

Am Anfang stand die Frage, was ich bereit bin aufzugeben. Am Ende ist sie keine private Frage mehr.

Wir werden vieles abgeben, und vieles davon zu Recht. Kein Mensch muss sich mehr Telefonnummern merken, und niemand muss fünfzig Stunden Interviews von Hand auswerten, wenn ein System es in wenigen Stunden kann. Aber es gibt Dinge, die wir nicht abgeben können, ohne uns selbst abzugeben: das Urteil über das, was wir verantworten; den Blick auf den einzelnen Menschen, der sich der Rechnung entzieht; das Gewissen, das sich meldet, bevor wir es begründen können; und die Frage, wozu wir das alles tun.

Ich glaube, dass gerade diese Entscheidungen, die von Verantwortung, Sinn und Seele getragen werden, auf lange Sicht die wichtigsten bleiben werden, über unsere Generation hinaus. Die Maschinen werden uns darin nicht ersetzen. Aber sie werden uns zwingen, genauer zu wissen, wer wir sind.