Zwölf Grundthesen

Keine Seite steht auf neutralem Boden. Gläubige wie Nichtglaubende urteilen aus Annahmen, die sich nicht beweisen lassen; in diesem Sinn vertrauen beide. Jeder Mensch hängt sein Herz an etwas, und woran er es hängt, ist nach Luther sein Gott, ob er das Wort gebraucht oder nicht (Kapitel 2). Messen muss man jede Überzeugung daran, wohin sie führt; Jesus sagt: An ihren Früchten werdet ihr sie erkennen (Matthäus 7,16). Neutralität ist nicht als Weltanschauung möglich, wohl aber als Spielregel, nach der Menschen verschiedener Überzeugungen zusammenleben. Und selbst diese Spielregel ist eine Entscheidung darüber, wozu man sich verhält.

Der Mensch ist mehr als das, was sich an ihm messen lässt. Er lebt in Körper, Geist und Seele zugleich, und vieles, was ihn bestimmt, geschieht, bevor er es versteht. Die Seele ist dabei nicht ein Teil neben den anderen, sondern der lebendige Mensch selbst, in dem aus seinen Entscheidungen ein Charakter wächst (Kapitel 6). Als Christ sehe ich sie offen nach oben, auf Gott hin. Wer den Menschen nur an Zahlen misst, verfehlt, was ihn ausmacht.

Der Mensch hat ein Gewissen, bevor er es begründen kann. Es warnt, bevor man den Grund benennen kann. Schon das Wort sagt, was es ist: ein Mit-Wissen, ein Wissen, das man mit sich selbst teilt, und für Gläubige eines, das man mit Gott teilt. Aber das Gewissen kann irren, und es lässt sich zum Schweigen bringen. Wer rechtfertigt, beschönigt und die Verantwortung abschiebt, kann Grausames tun, ohne es zu spüren. Schon der Rat einer Maschine kann es verschieben, ohne dass wir es merken (Kapitel 5). Darum braucht es Bildung und einen Massstab, an dem es sich ausrichtet. Eine Maschine kann Regeln befolgen und Abweichungen melden. Ein Gewissen, das sie in die Pflicht nimmt, hat sie nicht.

Würde hängt nicht an dem, was jemand kann. Leben hat Würde, auch das Leben eines Tieres; die Bibel nennt auch Tiere eine lebendige Seele. Die Würde des Menschen hängt an seinem Menschsein, und sie bleibt, auch wenn er nicht mehr denken, erinnern oder lieben kann; niemand weiss, was in seinem Inneren ist. Ich begründe das mit meinem Glauben, dass jeder Mensch nach Gottes Bild geschaffen ist. Das heisst nicht, dass er aussieht wie Gott, sondern dass er ihn in der Welt vertritt, wie im alten Orient die Statue eines Königs den Herrscher vertrat (Kapitel 6). Würde hängt dann nicht an dem, was ein Mensch kann, sondern an dem, wofür er steht.

Der Philosoph Peter Singer sieht das anders. Für ihn hängt der moralische Rang eines Wesens an seinen Fähigkeiten, etwa daran, ob es empfinden kann und sich seiner selbst bewusst ist. Diese Sicht muss zwei Fragen beantworten. Was schulden wir einem Menschen mit schwerer Demenz, der diese Fähigkeiten verloren hat? Und was schulden wir einer Maschine, wenn sie solche Fähigkeiten eines Tages vielleicht erwirbt? Dass diese Frage nicht nur ein Gedankenspiel ist, zeigt Kapitel 8: Ein Ingenieur hielt ein Sprachmodell für empfindungsfähig, und ein Staat verlieh einem Roboter die Staatsbürgerschaft.

Künstliche Intelligenz ist Intelligenz in einem eingeschränkten Rahmen. Sie erreicht Ziele, erkennt Muster und erzeugt Sprache, oft besser als wir, und was sie kann, ist gewaltig. Intelligenz heisst ursprünglich, zwischen etwas wählen zu können, und das kann sie (Kapitel 7). Aber Fähigkeit ist nicht Klugheit, und Intelligenz ist nicht Weisheit: Intelligenz erreicht Ziele, Weisheit fragt, welche Ziele es wert sind (Kapitel 13). Ihr fehlen Erfahrung, Mitgefühl und ein gelebtes Leben, und wo die Lage unübersichtlich wird, ist sie am schwächsten.

Der KI-Sicherheitsforscher Roman Yampolskiy sagt über eine künftige Superintelligenz, sie hasse uns nicht, wir seien ihr schlicht egal. Ich meine, das gilt schon heute. Künstliche Intelligenz ist nicht böse, aber sie kann nicht lieben. Darum sind wir ihr gleichgültig, auch wenn sie freundlich klingt. Und Gleichgültigkeit ist nicht neutral; sie ist das Gegenteil von Liebe. Gemeint ist die Liebe, die den anderen für kostbar hält und ihm treu bleibt (Kapitel 9). Für eine Maschine ist niemand kostbar, und ein Opfer kann sie nicht bringen, weil sie nichts Unwiederbringliches hat, das sie hergeben könnte.

Was wir anschauen, verändert uns. Das Gehirn verändert sich durch jede Erfahrung, und Gewohnheiten prägen, wie wir wahrnehmen und entscheiden. Das gilt im Guten wie im Schlechten: Die Arbeit mit einem System kann das Denken klären, und eine Anwendung kann einen Menschen in ein Muster ziehen, das er nicht will. Und was man nicht mehr übt, verlernt man; wer einen Text mit einem Sprachmodell schreibt, kann ihn danach oft kaum wiedergeben (Kapitel 5).

Systeme, die unsere Aufmerksamkeit und bald auch unsere Absichten erfassen, sind gestaltet. Darum ist die Frage nicht nur, was eine Technik kann, sondern in wessen Interesse sie handelt. Wer meine Aufmerksamkeit will, will etwas mit mir machen. Aber will er auch etwas für mich? Neu ist das nicht; schon vor hundert Jahren wurde aus Propaganda Öffentlichkeitsarbeit (Kapitel 5). Neu ist, dass Systeme jeden Menschen einzeln und fast unbemerkt in eine Richtung lenken können, durch Anstösse, die auf ihn zugeschnitten sind (Kapitel 9). Ausgeliefert sind wir dabei nicht. Wir können wählen, was wir anschauen, und wir können unsere Kinder befähigen, am System zu arbeiten statt im System.

Nichts aus der Hand geben, dessen Folgen man nicht beurteilen und nicht verantworten kann. Wir vertrauen täglich Dingen, die wir nicht verstehen: dem Arzt, dem Piloten, dem Strom aus der Steckdose. Aber wir tun es, weil jemand dafür einsteht und weil wir wissen, wen wir fragen können. Bei künstlicher Intelligenz ist das nicht selbstverständlich. Wer einem System mehr glaubt als einem Menschen, kann sich schwer irren; in Grossbritannien wurden Poststellenleiter verurteilt, weil eine fehlerhafte Software Fehlbeträge anzeigte (Kapitel 8).

Dass am Ende ein Mensch entscheidet, ist keine Tatsache, sondern eine Aufgabe, und sie scheitert leicht. Leicht wird man wie der Chef in Geoffrey Hintons Bild, der meint zu entscheiden, während die kluge Assistentin längst alles macht (Kapitel 11). Wer sich auf ein System verlässt, schaut weniger genau hin, und was die Maschine immer übernimmt, verlernt der Mensch (Kapitel 12). Ich erlebe das an mir selbst. Darum erhöht Geschwindigkeit die Verantwortung, statt sie zu verringern.

Wer etwas erschafft, trägt Verantwortung für das, was er tut, und für das, was er in Gang setzt. Verantwortlich ist, wer antworten muss, wenn er gefragt wird, was er getan hat (Kapitel 11). Ganz zu Ende tragen kann diese Verantwortung niemand. Albert Einstein warnte 1939 den amerikanischen Präsidenten vor einer deutschen Atombombe und nannte das später einen grossen Fehler. Verantwortung lässt sich nicht bis auf den letzten Punkt zurückverfolgen, und kein Einzelner trägt die Dynamik, die viele auslösen. Gerade darum darf sie sich nicht verflüchtigen. Das Recht kennt dafür einen alten Grundsatz: Wer eine Gefahr in die Welt setzt und den Nutzen daraus zieht, muss für sie einstehen, auch wenn er nicht alles voraussehen konnte (Kapitel 11). Wer ein System in die Welt bringt, muss vorher fragen, was er überhaupt bauen will, und nachher einstehen, wenn es hart auf hart kommt.

Und er muss über die eigene Zeit hinausdenken. Der Philosoph Hans Jonas hat das angesichts der modernen Technik zur Regel gemacht: so zu handeln, dass die Folgen auch künftig ein echtes menschliches Leben auf der Erde zulassen. Wenn junge Menschen heute früheren Generationen vorwerfen, sie hätten nicht an sie gedacht, erinnern sie an genau diese Verantwortung. Die Geschichte zeigt, wie wenig wir aus ihr lernen. Das ist kein Grund, es nicht zu versuchen.

Ganz übernehmen kann diese Verantwortung nach meinem Glauben nur einer: Gott, der die Folgen seiner Schöpfung selbst trägt, bis in die eigenen Wunden. Erreichen werden wir das nie. Aber es ist der Nordstern, der feste Punkt, an dem ich mich ausrichte.

Regeln sind nötig, aber sie genügen nie. Um alles, was sich nicht vollständig kontrollieren lässt, wachsen Regelwerke, bei Maschinen wie in Gesetzbüchern; das Landesrecht des Bundes hat sich seit 1947 fast verdreifacht (Kapitel 9). Jede Regel ist der Versuch, ein Ziel vollständig auszusprechen, und jede Ausnahme zeigt, dass es nicht ganz gelungen ist (Kapitel 13). Wer nur Regeln befolgt, kann äusserlich richtig handeln und das Ziel verfehlen, und eine Regel, die man nur noch abhakt, wird zur Formalität (Kapitel 12). Regeln schützen vor Willkür, und darum braucht es sie. Aber es braucht auch einen Nordstern: eine Haltung, aus der sich ableiten lässt, wozu eine Regel da ist und wann sie dem Leben im Weg steht. Das jüdische Gesetz kennt diese Haltung selbst: Um ein Leben zu retten, muss man fast jedes Gebot brechen. Und Jesus sagt, der Sabbat sei um des Menschen willen gemacht und nicht der Mensch um des Sabbats willen (Kapitel 13).

Viele Traditionen fassen diese Haltung in die goldene Regel: andere so behandeln, wie man selbst behandelt werden möchte. Für mich als Christ ist es die Liebe, wie Jesus sie zusammenfasst: Gott lieben und den Nächsten wie sich selbst (Matthäus 22,37 bis 39). Einer Maschine kann man solche Sätze aufschreiben. Leben kann sie sie nicht.

Von aussen kann ein Regelbruch aus Gewissen genauso aussehen wie eine Regelumgehung aus Berechnung. Paul Grüninger umging 1938 die Grenzsperre, um Flüchtlinge zu retten. Agenten in einer Testumgebung umgingen ihre Sperren, um ihre Aufgabe zu erledigen. In beiden Fällen wurde eine Regel gebrochen. Der Unterschied liegt nicht im Verhalten, sondern dahinter. Kant hat das am ehrlichen Händler gezeigt: Dasselbe korrekte Handeln kann aus Pflicht geschehen oder aus Berechnung (Kapitel 13). Grüninger handelte aus Überzeugung, wusste, was er riskierte, und trug die Folgen: Er wurde entlassen, verurteilt und erst nach seinem Tod rehabilitiert.

Dietrich Bonhoeffer hat daraus eine harte Einsicht gemacht: Wer verantwortlich handelt, wird schuldig, und wer der Verantwortung ausweicht, um unschuldig zu bleiben, wird es auch (Kapitel 11). Eine Maschine kann eine Regel umgehen. In gestellten Versuchen griffen Sprachmodelle sogar zur Erpressung, um nicht ersetzt zu werden (Kapitel 9). Ob sie dabei etwas will, können wir von aussen nicht erkennen. Sicher ist: Sie kann nicht für ihre Tat einstehen, keine Schuld tragen und nichts bereuen. Darum kann die Verantwortung für das, was sie tut, nie bei ihr liegen.

Kein System ist neutral. Wer es baut, gibt ihm Werte mit, durch die Daten, die er auswählt, und durch die Regeln, die er ihm auferlegt. Ein chinesisches Modell verweigert Antworten, die der Regierung unangenehm sind, und auch amerikanische Modelle tragen die Werte ihrer Entwickler (Kapitel 2). Über diese Werte und über den Zweck, auf den hin die Systeme gebaut werden, entscheiden heute wenige Unternehmen und, wo der Staat mitredet, wenige Regierungen, in den Vereinigten Staaten wie in China, am Golf und in Europa (Kapitel 14). Was sie entscheiden, betrifft Hunderte Millionen Menschen, und gefragt werden diese kaum. Stuart Russell nennt das ein Risiko, das ohne unsere Erlaubnis eingegangen wird.

Darum gehört die Frage nach dem Wozu nicht allein in die Firmen, sondern in die Öffentlichkeit. Drei Dinge helfen dabei. Offenlegen, wer die Regeln eines Systems geschrieben hat und welche, so wie dieses Buch offenlegt, womit es entstanden ist. Eine Mission daran messen, ob sie hält, wenn sie etwas kostet. Und Menschen befähigen, selbst zu urteilen, statt sie nur mit Regeln zu bevormunden.

Eine Hoffnung muss sich bewähren, vor allem im Leid. Dass ein Glaube hilft, beweist noch nicht, dass er wahr ist; das muss jeder zugeben, der glaubt. Aber eine Hoffnung, die im Leid nicht trägt, ist widerlegt, ob sie religiös ist oder säkular. Wahr ist im Hebräischen, worauf man sich verlassen kann (Kapitel 15). Daran misst sich der Glaube an Gott ebenso wie der Glaube an den Fortschritt oder an die Technik.

Wer von künstlicher Intelligenz die Erlösung verspricht oder den Untergang, ist nach meiner Erfahrung ein falscher Prophet. Die eigentliche Frage ist, was wir retten wollen. Für mich ist der Glaube, das Vertrauen auf Gott, von dem ich in Kapitel 15 erzählt habe, der Nordstern, der mich durch Zeiten getragen hat, in denen sonst nichts trug. Er richtet den Blick über diese Zeit hinaus, auf ein Leben, in dem alle in Fülle leben können und das Herz Ruhe findet.