Entscheidungskultur

Kapitel 11 hat gefragt, was eine einzelne Entscheidung ist. Die meisten Entscheidungen, die heute mit Hilfe künstlicher Intelligenz getroffen werden, fallen aber nicht allein, sondern in Teams, Abteilungen, Verwaltungen und Unternehmen. Dieses Kapitel fragt deshalb, wie Gruppen entscheiden, und was geschieht, wenn eine Maschine in eine bestehende Entscheidungskultur hineinkommt.

Eine verbreitete Erwartung lautet, gute Technik mache gute Entscheidungen. Kentaro Toyama, Informatiker, hat jahrelang Projekte geleitet, in denen Technik in Schulen, Spitälern und Verwaltungen armer Regionen eingesetzt wurde. Seine Erfahrung fasste er in einen Grundsatz, den er das Gesetz der Verstärkung nennt: Die wichtigste Wirkung von Technik ist, menschliche Kräfte zu verstärken. Wie ein Hebel verstärkt sie die Fähigkeiten der Menschen in die Richtung ihrer Absichten. Wo Menschen und Institutionen gut gewillt und fähig sind, verbessert sie vieles; wo sie gleichgültig, zerstritten oder korrupt sind, bewirkt sie wenig oder schadet.

Wenn Toyama recht hat, dann liegt der Engpass beim Einsatz künstlicher Intelligenz nicht in erster Linie in der Technik. Er liegt in der Art, wie Menschen miteinander entscheiden. Ein System, das in eine Kultur der Klarheit kommt, macht sie klarer. Ein System, das in eine Kultur des Schweigens kommt, macht das Schweigen effizienter.

Die Geschichte stützt diese Sicht. Als in den Fabriken der Elektromotor die Dampfmaschine ersetzte, stieg die Produktivität jahrzehntelang kaum. Der Wirtschaftshistoriker Paul David hat 1990 gezeigt, warum. Die Fabriken waren um eine einzige grosse Antriebswelle herum gebaut, und solange man nur den Antrieb austauschte, änderte sich wenig. Erst als man die Fabriken um viele kleine Motoren herum neu organisierte, kam der Gewinn. Der Ökonom Robert Solow spottete 1987, man sehe das Computerzeitalter überall, nur nicht in den Produktivitätsstatistiken. Bei der künstlichen Intelligenz zeigt sich dasselbe Muster. Eine Untersuchung des Massachusetts Institute of Technology fand 2025, dass rund 95 Prozent der Unternehmen mit generativer künstlicher Intelligenz keinen messbaren Gewinn erzielten; nur etwa jedes zwanzigste brachte ein solches System in den laufenden Betrieb. Die Forschenden führen das vor allem darauf zurück, dass die Systeme nicht in die tägliche Arbeit eingebettet waren und nicht aus ihr lernten. Die Zahl ist umstritten, weil sie nur die Wirkung auf den Gewinn misst, und die Forschungsgruppe entwickelt selbst Technik für solche Systeme. Aber die Richtung ist deutlich: Wo eine Organisation nicht bereit ist, ihre Abläufe zu ändern, bleibt auch die beste Technik ein Versuch.

Warum entscheiden Gruppen aus klugen Menschen manchmal erstaunlich schlecht? Irving Janis, Sozialpsychologe, hat diese Frage 1972 an Entscheidungen der amerikanischen Aussenpolitik untersucht, etwa an der gescheiterten Invasion in der Schweinebucht 1961. Er nannte das Muster Gruppendenken: eine Denkweise, in der das Streben nach Einigkeit in einer eng verbundenen Gruppe so stark wird, dass es die nüchterne Prüfung der Alternativen verdrängt.

Janis beschrieb acht Anzeichen. Zu ihnen gehören die Illusion, unverwundbar zu sein, der ungeprüfte Glaube an die eigene Moral, die Selbstzensur, mit der Einzelne ihre Zweifel zurückhalten, und die Illusion der Einstimmigkeit, in der Schweigen als Zustimmung gilt. Dazu kommen Mitglieder, die sich selbst zu Wächtern machen und die Gruppe von unbequemen Informationen abschirmen.

Als Gegenmittel schlug Janis vor, ausdrücklich jemanden mit dem Widerspruch zu beauftragen, die Gruppe zeitweise zu teilen, Kritik von aussen einzuholen und vor der Umsetzung eine zweite Sitzung anzusetzen, in der verbleibende Zweifel ausgesprochen werden dürfen.

Die Forschung hat Janis' Modell seither geprüft und teilweise widerlegt. Die Bedingungen, die er als Ursachen nannte, liessen sich nicht so eindeutig bestätigen, wie er angenommen hatte. Die Erscheinungen selbst, Selbstzensur und Scheineinigkeit, treten aber in viel mehr Gruppen auf, als er dachte. Für dieses Buch genügt diese vorsichtigere Lesart: Einigkeit ist nicht dasselbe wie Einsicht.

Neuere Forschung kommt auf anderem Weg zu ähnlichen Schlüssen. Garold Stasser und William Titus zeigten 1985 in Experimenten, dass Gruppen vor allem über das sprechen, was ohnehin alle wissen. Was nur Einzelne wissen, kommt kaum zur Sprache, auch wenn es die bessere Entscheidung ermöglichen würde. Cass Sunstein und Reid Hastie fassten 2015 zusammen, dass Gruppen die Fehler ihrer Mitglieder oft nicht ausgleichen, sondern verstärken. Gleichgesinnte, die miteinander beraten, enden extremer, als sie begonnen haben; in einem Versuch im amerikanischen Bundesstaat Colorado wurden liberale Gruppen nach der Diskussion liberaler und konservative konservativer.

Die Beispiele aus der Praxis sind zahlreich. Am Abend vor dem Start der Raumfähre Challenger im Januar 1986 warnten Ingenieure des Herstellers der Antriebsraketen, die Dichtungsringe könnten in der Kälte versagen. Ihre Vorgesetzten berieten sich, einer forderte einen Kollegen auf, den Hut des Ingenieurs abzunehmen und den des Managers aufzusetzen, und die Firma gab den Start frei. Die Raumfähre zerbrach kurz nach dem Start, sieben Menschen starben. Beim Flugzeugtyp Boeing 737 MAX stürzten 2018 und 2019 zwei Maschinen ab, 346 Menschen starben. Eine automatische Steuerung, die sich auf einen einzigen Sensor stützte, hatte die Flugzeuge nach unten gedrückt, und die Piloten waren kaum über sie informiert. Ein Bericht des amerikanischen Kongresses sprach 2020 von einer Kultur, in der Bedenken nicht durchdrangen. Und in der Schweiz zeigte der Untersuchungsbericht zum Verlust der Credit Suisse mit dem Hedgefonds Archegos, dass Warnungen von Risikofachleuten nicht weitergetragen wurden und sich niemand wirklich zuständig fühlte. In allen drei Fällen fehlte es nicht an Wissen. Das Wissen war da, aber es kam nicht dort an, wo entschieden wurde.

Was eine Gruppe vor diesen Mustern schützt, hat Amy Edmondson, Organisationsforscherin, 1999 in einer Studie über 51 Arbeitsteams eines Industrieunternehmens gezeigt. Sie nannte es psychologische Sicherheit: die gemeinsame Überzeugung in einem Team, dass man zwischenmenschliche Risiken eingehen kann, ohne bestraft oder blossgestellt zu werden. Wer eine Frage stellt, einen Fehler zugibt oder einer Vorgesetzten widerspricht, geht ein solches Risiko ein.

Edmondson fand, dass Teams mit hoher psychologischer Sicherheit mehr aus Fehlern lernten, und dass dieses Lernen ihre Leistung erklärte. Das Selbstvertrauen eines Teams in die eigene Fähigkeit spielte dagegen keine eigene Rolle mehr, sobald man die psychologische Sicherheit berücksichtigte. Entscheidend für ihr Entstehen war unter anderem eine Führung, die begleitet und befähigt, statt nur anzuordnen.

Wie stark dieser Befund wirkt, zeigte schon eine frühere Studie Edmondsons in Spitälern. Zu ihrer Überraschung meldeten die besten Pflegeteams mehr Fehler bei Medikamenten als die schlechteren. Sie machten nicht mehr Fehler, sie sprachen sie eher aus. Google untersuchte ab 2012 in einem Projekt mit dem Namen Aristoteles, was seine erfolgreichsten Teams auszeichnet, und fand an erster Stelle nicht die Begabung der Einzelnen, sondern die psychologische Sicherheit. Die Luftfahrt hat diese Lektion bitter gelernt. 1977 kollidierten auf der Insel Teneriffa zwei Jumbojets, 583 Menschen starben. Der Bordingenieur des startenden Flugzeugs hatte Zweifel, ob die Piste frei sei, und fragte nach, doch der erfahrene Kapitän wischte den Einwand weg. Danach führten die Fluggesellschaften ein Training ein, das Besatzungen lehrt, Bedenken auszusprechen und anzuhören, gleich welchen Rang jemand hat. Ähnlich wirkt in Spitälern eine Checkliste der Weltgesundheitsorganisation: Vor jeder Operation stellt sich das Team mit Namen und Aufgabe vor und geht die wichtigsten Punkte gemeinsam durch. In einer grossen Studie sank danach die Sterblichkeit nach Operationen fast um die Hälfte.

Der Befund passt zu einer Beobachtung, die sich durch dieses ganze Buch zieht. In Kapitel 9 hat ein einzelner Mensch bei einer Plattform eine Unregelmässigkeit in den Protokollen bemerkt und Agenten gestoppt, die fähiger waren als fast alle Sicherheitsforscher. Ob jemand eine solche Beobachtung meldet, hängt nicht an seiner Intelligenz. Es hängt daran, ob er erwarten kann, dass man ihm zuhört.

Wenn künstliche Intelligenz eine Entscheidungskultur verstärkt, was genau verstärkt sie? Aus den bisherigen Kapiteln lassen sich vier Wirkungen ableiten.

Erstens kann sie zu einem neuen Wächter werden. Kapitel 11 hat gezeigt, dass Menschen dazu neigen, automatisierten Empfehlungen zu folgen, auch als Fachleute und auch im Team. In einer Gruppe, die ohnehin zur Einigkeit drängt, wird der Satz «Das System empfiehlt es» leicht zum letzten Wort. Wer dann noch widerspricht, widerspricht nicht nur den Kollegen, sondern scheinbar auch den Daten.

Zweitens beschleunigt sie. Kapitel 10 und 11 haben gezeigt, wie die Zeit zum Prüfen schrumpft, wenn Systeme in kurzer Zeit umfangreiches Material liefern. Die zweite Sitzung, die Janis empfahl, um Zweifel auszusprechen, ist genau die Zeit, die unter Druck zuerst gestrichen wird.

Drittens verdichtet sie. Eine Zusammenfassung, die ein System aus vielen Beiträgen erstellt, gibt die Mehrheit wieder, nicht die Minderheit. Was eine einzelne Person am Rand angemerkt hat, fällt beim Verdichten leicht heraus, obwohl es vielleicht der wichtigste Einwand war.

Viertens kann sie aber auch helfen. Ein System kann Widerspruch sichtbar machen, den niemand laut aussprechen würde, etwa wenn Beiträge ohne Namen eingehen. Es kann die Gegenposition ausdrücklich formulieren, wie es Janis vom Advokaten des Widerspruchs verlangte. Und es kann festhalten, auf welchen Annahmen eine Entscheidung beruhte, damit man später prüfen kann, ob sie stimmten. Ob die Maschine das Schweigen verstärkt oder den Widerspruch, entscheidet nicht die Maschine, sondern die Kultur, in die sie kommt.

Organisationen lernen, aber sie vergessen auch. Pablo Martin de Holan und Nelson Phillips, Organisationsforscher, haben 2004 untersucht, wie und warum Organisationen vergessen. Sie unterscheiden, ob das Vergessen ungewollt oder gewollt geschieht und ob es altes oder neu gewonnenes Wissen betrifft. Daraus ergeben sich vier Formen: Bewährtes Wissen zerfällt, etwa wenn erfahrene Menschen gehen. Neu Gelerntes wird gar nicht erst festgehalten. Überholte Gewohnheiten werden bewusst verlernt. Und schlechte neue Gewohnheiten werden bewusst gar nicht erst übernommen. Die ersten beiden Formen sind ein Verlust, die letzten beiden eine Fähigkeit.

Wie teuer das Vergessen werden kann, zeigen zwei Beispiele aus den Vereinigten Staaten. Für die Wartung von Atomsprengköpfen brauchte man in den 2000er-Jahren ein Material mit dem Decknamen Fogbank, das zuletzt in den 1980er-Jahren hergestellt worden war. Die Aufzeichnungen waren noch da, aber die Menschen, die gewusst hatten, worauf es ankam, waren gegangen. Es kostete rund 69 Millionen Dollar und mindestens ein Jahr Verzögerung, bis man das Material wieder herstellen konnte; erst spät zeigte sich, dass eine ungewollte Verunreinigung im alten Verfahren entscheidend gewesen war. Und als die Raumfähre Columbia 2003 beim Wiedereintritt zerbrach, stellte die Untersuchungskommission fest, dass sich bei der Weltraumbehörde Muster wiederholt hatten, die schon siebzehn Jahre zuvor zur Challenger-Katastrophe geführt hatten. Man hatte die Lehren aufgeschrieben, aber nicht behalten.

Ein drittes Beispiel betrifft die Automatisierung selbst. 2009 stürzte ein Flugzeug der Air France auf dem Weg von Rio de Janeiro nach Paris in den Atlantik, 228 Menschen starben. Als sich der Autopilot wegen vereister Messfühler abschaltete, fanden die Piloten nicht schnell genug zurück ins Fliegen von Hand; der Untersuchungsbericht bemängelte unter anderem fehlendes Training für genau diese Lage. Was die Maschine immer übernimmt, verlernt der Mensch, und mit ihm die Organisation.

Es gibt Organisationen, die sich gegen das Vergessen wehren, und ihre Mittel ähneln sich. Die amerikanische Armee führte in den 1970er-Jahren nach jedem Einsatz eine Nachbesprechung mit vier einfachen Fragen ein: Was sollte geschehen? Was geschah? Warum? Was lernen wir daraus? Die Luftfahrt sammelt seit 1976 in einem vertraulichen Meldesystem, das die NASA betreibt, Berichte über Beinahe-Unfälle, inzwischen weit über eine Million, und wer meldet, wird grundsätzlich nicht bestraft. Schweizer Spitäler kennen dasselbe unter dem Namen CIRS: Fachleute melden kritische Ereignisse, bevor ein Schaden entsteht. Und in der Softwareentwicklung hat es sich eingebürgert, wichtige Entscheidungen samt Zusammenhang, verworfenen Möglichkeiten und erwarteten Folgen in kurzen Protokollen festzuhalten.

Dabei kommt es auf etwas an, das leicht übersehen wird: Man muss die Gründe festhalten, bevor man das Ergebnis kennt. Der Psychologe Baruch Fischhoff hat 1975 gezeigt, dass Menschen im Nachhinein glauben, sie hätten den Ausgang vorausgesehen. Wer erst nachher aufschreibt, schreibt die Geschichte um. Und wer nur festhält, was entschieden wurde, verliert, was man bewusst nicht getan hat, und mit ihm oft die wichtigsten Gründe. Gute wie schlechte Entscheidungen, auch die unterlassenen, mit ihren Gründen festzuhalten, ist darum keine Bürokratie. Es ist die Voraussetzung dafür, dass eine Organisation lernen kann.

Für die Entscheidungskultur heisst das: Eine Organisation kann gut entscheiden und trotzdem nichts daraus lernen, wenn sie vergisst, warum sie so entschieden hat und was daraus wurde. Dann beginnt sie bei der nächsten Krise wieder von vorn. Künstliche Intelligenz kann hier doppelt wirken. Sie kann festhalten, was Menschen vergessen würden: Gründe, Annahmen, Ergebnisse. Und sie kann das Festhalten so umfangreich machen, dass niemand mehr findet, was zählt.

Viele Organisationen versuchen heute, ihre Entscheidungskultur nicht dem Zufall zu überlassen. Einige Grundsätze tauchen dabei immer wieder auf.

Klare Entscheidungsrechte: Vor einer wichtigen Entscheidung ist geklärt, wer entscheidet, wer sie vorbereitet, wer vorher gehört werden muss, wer danach informiert wird und was geschieht, wenn keine Einigung zustande kommt. Wer Verantwortung tragen soll, braucht dafür die nötigen Informationen und Befugnisse.

Ein Entscheidungsprotokoll: Festgehalten werden nicht nur das Ergebnis, sondern auch die Frage, die bekannten Fakten, die offenen Annahmen, die geprüften Möglichkeiten, die Gründe für die gewählte Richtung und der Zeitpunkt, an dem man sie überprüft. So kann eine Organisation später lernen, ob sie gut entschieden hat, und nicht nur, ob sie Glück hatte. Eine gute Entscheidung ist nicht automatisch eine mit gutem Ausgang, sondern eine, die mit den damals verfügbaren Informationen sorgfältig und verantwortbar getroffen wurde.

Eingeladener Widerspruch: Widerspruch wird nicht nur geduldet, sondern ausdrücklich gesucht, durch Gegenfragen, durch Rollen, die den Einwand vertreten, und durch getrennte oder vertrauliche Gespräche dort, wo Abhängigkeiten offenes Reden erschweren.

Und schliesslich die Bereitschaft, aufzuhören: Ein begründeter Abbruch kann ein Erfolg sein, wenn er weitere Fehlinvestitionen verhindert. Gruppendenken zeigt sich oft gerade darin, dass niemand mehr sagt, was alle ahnen.

Gegen dieses Kapitel lassen sich zwei Einwände erheben, die einander widersprechen.

Der erste sagt, Toyama unterschätze die Technik. Technik verstärke nicht nur, was schon da ist; sie verändere die Menschen und ihre Kultur selbst. Melvin Kranzberg, Technikhistoriker, hat dafür 1986 als erstes seiner Gesetze einen Satz geprägt: Technik ist weder gut noch schlecht, aber auch nicht neutral. Wer mit einem System arbeitet, das bestimmte Fragen stellt und andere nicht, lernt anders zu denken. Kapitel 3 und 4 haben gezeigt, dass das, was wir anschauen, uns verändert. Das Beispiel der Air France aus Abschnitt 12.5 zeigt es: Die Automatisierung hat nicht nur verstärkt, was die Piloten konnten, sie hat verändert, was sie noch konnten.

Der zweite Einwand sagt das Gegenteil: Kultur lasse sich nicht bauen. Regeln für Entscheidungsrechte, Protokolle und Rollen für den Widerspruch blieben wirkungslos, wenn die Haltung fehlt; sie würden dann zu Ritualen, die man abhakt. Das ist die Kritik an Regeln ohne Gesinnung, die Kapitel 13 ausführt, übertragen auf Organisationen. Auch dafür gibt es einen Beleg. Als die kanadische Provinz Ontario 2010 die Checkliste der Weltgesundheitsorganisation für alle Spitäler vorschrieb, sank die Sterblichkeit nach Operationen nicht messbar. Dieselbe Liste, die in der ersten grossen Studie so viel bewirkt hatte, wurde dort, wo man sie nur befolgen musste, offenbar zur Formalität.

Beide Einwände treffen etwas. Technik verstärkt und verändert zugleich. Und Strukturen erzeugen keine Kultur, aber sie können ihr Raum geben oder ihn nehmen. Die Luftfahrt zeigt, wie beides zusammengeht. Ihr Training für Besatzungen wirkt nicht, weil es Regeln vorschreibt, sondern weil es eine Haltung einübt, die vorgelebt und nach jedem Zwischenfall ohne Strafe besprochen wird (Abschnitte 12.3 und 12.5).