Macht und Technologieunternehmen

Die Kapitel 11 bis 13 haben gefragt, was eine Entscheidung ist, wie Organisationen entscheiden und welche Werte in Systeme geschrieben werden. Dieses Kapitel fragt, wer darüber entscheidet, welche Systeme überhaupt entstehen.

Fritz Espenlaub, Journalist, beginnt seine Reihe über die Geschichte von OpenAI im Deutschlandfunk mit einer Feststellung. Hunderte Millionen Menschen sprächen regelmässig mit einer künstlichen Intelligenz und seien damit Teil eines Experiments, dessen Folgen niemand kenne. Er findet es richtig, dass jeder die Technik ausprobieren kann, statt dass die Welt eines Tages unvorbereitet einem fertigen Maschinen-Gott gegenübersteht. Und er fügt hinzu: Die Entscheidung sei bereits getroffen. Die Firmen hätten entschieden, dass die Menschheit diese Technologie jetzt bekommen soll, unfertig und unberechenbar.

Wer so entscheidet, hat Macht. Dieses Kapitel fragt, woher diese Macht kommt, wie sie begründet wird und was sie begrenzt.

Die Geschichte von OpenAI beginnt nach Espenlaubs Darstellung nicht mit einem Geschäftsmodell, sondern mit einer Angst. 2015 erlebte künstliche Intelligenz einen ersten Aufschwung: Google kaufte das Londoner Labor DeepMind, Bilderkennungssysteme übertrafen erstmals den Menschen, und der Physiker Stephen Hawking warnte, künstliche Intelligenz könne das Ende der Menschheit bedeuten. Im Sommer desselben Jahres soll Larry Page, Mitgründer von Google, eine von Maschinen beherrschte Welt schlicht als nächste Stufe der Evolution bezeichnet haben; so berichtet es die Journalistin Keach Hagey.

Elon Musk, Unternehmer, hielt nach derselben Darstellung die Führung von Google für gleichgültig gegenüber den Gefahren. Sam Altman, damals Leiter eines Programms für junge Unternehmen, sorgte sich um die Macht der grossen Technologiefirmen, die aufstrebende Konkurrenten aufkaufen, bevor sie gross werden. Gemeinsam wollten sie ein Gegengewicht bauen. Espenlaub fasst das in ein Bild: Google als Imperium, das den Todesstern baut, und die Gründer als Rebellen, die einen Todesstern des Guten bauen wollten, schneller, sicherer und nicht auf Profit ausgerichtet. Am 8. Dezember 2015 wurde OpenAI als gemeinnützige Organisation gegründet, mit dem erklärten Ziel, künstliche Intelligenz transparent und zum Wohl der Menschheit zu entwickeln.

Das Feature hält auch fest, womit diese Firma ihre ersten Forschenden gewann. Sie konnte mit den Gehältern von Google nicht mithalten. Was sie bieten konnte, war eine Geschichte: die Geschichte, dass auch die Guten einen Todesstern bauen können und trotzdem die Guten bleiben.

Ob eine Mission trägt, zeigt sich erst, wenn sie geprüft wird. Für OpenAI kam diese Probe im November 2023. Sam Altman hatte kurz zuvor in einem Interview gesagt, künstliche Intelligenz müsse der ganzen Menschheit gehören. Auf die Frage, warum man ihm vertrauen solle, antwortete er: Man solle es nicht. Genau dafür gebe es den Verwaltungsrat, der ihn jederzeit entlassen könne, und das sei wichtig.

Dieser Rat, unbezahlt und allein der Mission verpflichtet, entliess Altman am 17. November 2023. Die Begründung war knapp: Er sei gegenüber dem Gremium nicht durchgehend aufrichtig gewesen. Nach der Darstellung der Journalistin Keach Hagey herrschte damals in der Führung ein Klima von Misstrauen und Angst; Altman habe den verschiedenen Lagern oft gesagt, was sie hören wollten. Altman selbst sagt, er sei völlig überrascht gewesen.

Was folgte, dauerte wenige Tage. Microsoft bot Altman und allen Mitarbeitenden Stellen an. Rund 700 von 770 Mitarbeitenden drohten in einem offenen Brief mit der Kündigung, falls Altman nicht zurückkehre; für viele stand in einer laufenden Finanzierungsrunde viel Geld auf dem Spiel. Selbst Ilya Sutskever, der die Absetzung angeführt hatte, unterschrieb und entschuldigte sich. Altman kehrte zurück, die Ratsmitglieder, die ihn entlassen hatten, mussten gehen. Im Silicon Valley heisst dieses Wochenende seither der «Blip», der Ausrutscher.

Daniel Kokotajlo, damals bei OpenAI für Fragen der Steuerung zuständig, beschreibt die Folgen. Viele der Sicherheitsfachleute verliessen die Firma, und an die Stelle der Zurückhaltung trat das Argument, Geschwindigkeit sei Sicherheit. Er zitiert den Schriftsteller Upton Sinclair: Es ist schwer, einen Menschen etwas verstehen zu lassen, wenn sein Einkommen davon abhängt, dass er es nicht versteht.

Für dieses Kapitel ist der Blip ein Lehrstück. Die Mission war in der Struktur der Firma verankert, und das zuständige Gremium hat versucht, sie durchzusetzen. Als es darauf ankam, setzten sich Kapital, Netzwerke und die Interessen der Beschäftigten durch.

Zehn Jahre später sieht OpenAI anders aus. Nach eigener Darstellung ist die gemeinnützige Organisation seit dem 28. Oktober 2025 die OpenAI Foundation. Das gewinnorientierte Unternehmen, die OpenAI Group, ist eine Gemeinwohlgesellschaft, die ihre Mission verfolgen und die Interessen aller Beteiligten berücksichtigen muss. Die Foundation ernennt den Verwaltungsrat der Gruppe und hält rund ein Viertel ihrer Anteile. Espenlaub nennt einen Firmenwert von rund 730 Milliarden Dollar.

Wie man diese Entwicklung beurteilt, hängt davon ab, wem man folgt. Das Unternehmen betont, dass die Mission rechtlich verankert bleibt. Espenlaub zieht einen wertenden Kontrast: Altman leite heute eine Firma, die sich immer weniger um Regulierung schere. Beides ist Deutung. Für dieses Buch genügt der Befund, dass eine Organisation, die gegründet wurde, um die Macht weniger grosser Firmen zu begrenzen, selbst zu einer dieser Firmen geworden ist.

Die Macht der grossen Anbieter ist nicht nur eine Frage von Geld, aber sie ist auch eine. Nach der Internationalen Energieagentur gaben Technologiefirmen 2025 mehr als 400 Milliarden Dollar für Infrastruktur für künstliche Intelligenz aus, und dieser Betrag könnte 2026 um weitere drei Viertel steigen. Ed Zitron, Technologiekritiker, sieht genau hier, wie Kapitel 8 gezeigt hat, die eigentliche Frage. Die Erzählung von einer übermächtigen, fast mystischen künstlichen Intelligenz lenke davon ab, dass einige wenige Firmen über Infrastruktur im Wert von Hunderten Milliarden verfügen. Dass diese Firmen offenbar nicht genau wissen, was mit ihrer Rechenleistung geschieht, zeige, wie dringend es eine unabhängige Aufsicht brauche.

Macht zeigt sich auch darin, wer festlegt, was ein System sagt und was nicht. Kapitel 2 hat gezeigt, dass das chinesische Modell DeepSeek bei Fragen, die der chinesischen Regierung unangenehm sind, in den meisten Fällen ausweicht oder die Regierungssicht wiedergibt. Kapitel 13 hat gezeigt, dass westliche Anbieter ihren Systemen Grundsätze mitgeben, etwa in Form einer Verfassung. Das ist nicht dasselbe wie staatliche Zensur. Aber in beiden Fällen entscheiden wenige, welche Werte in Systemen stecken, die von Hunderten Millionen genutzt werden.

Die Geschichte von OpenAI ist eine amerikanische Geschichte, aber die Macht über künstliche Intelligenz ist nicht nur amerikanisch. China hat 2017 in einem staatlichen Plan festgelegt, bis 2030 zum führenden Zentrum für künstliche Intelligenz der Welt zu werden. Als das chinesische Unternehmen DeepSeek im Januar 2025 ein Modell vorstellte, das mit den besten amerikanischen mithielt, verlor der amerikanische Chiphersteller Nvidia an einem einzigen Tag rund 590 Milliarden Dollar an Börsenwert. In China entscheiden Unternehmen, aber innerhalb von Grenzen, die der Staat setzt (Kapitel 2). Russland hat weniger Mittel und wegen der Sanktionen kaum Zugang zu den besten Chips, aber ein klares Bewusstsein für die Bedeutung. Wladimir Putin sagte 2017 vor Schülern, wer auf diesem Gebiet führe, werde die Welt beherrschen. Die Golfstaaten setzen auf Geld und Energie. In Abu Dhabi entsteht mit amerikanischen Partnern der grösste Campus für künstliche Intelligenz ausserhalb der Vereinigten Staaten, gebaut von einer Firma, die ein Mitglied der Herrscherfamilie kontrolliert, und Saudi-Arabien gründete 2025 mit seinem Staatsfonds ein eigenes Unternehmen für künstliche Intelligenz. Europa hat mit Mistral in Paris ein Unternehmen von Rang und will mit einem Programm von 200 Milliarden Euro aufholen, liegt bei den grossen Modellen aber weit zurück (Vorwort). Die Schweiz hat mit Apertus ein vollständig offenes Modell der beiden Hochschulen in Zürich und Lausanne beigetragen.

Die Muster sind verschieden. In den Vereinigten Staaten entscheiden wenige Unternehmen und ihre Geldgeber, in China der Staat mit den Unternehmen, am Golf Staatsfonds und Herrscherfamilien, in Europa eine Mischung aus Unternehmen und Regeln. Gemeinsam ist allen, dass die Menschen, die mit diesen Systemen leben werden, kaum gefragt werden. Stuart Russell, der Informatiker aus Berkeley, den Kapitel 13 vorgestellt hat, nennt das beim Namen. Die Firmen gingen ein Risiko ein, das nach den Schätzungen der Entwickler selbst schlimmer sei als russisches Roulette, und zwar ohne unsere Erlaubnis. Er berichtet von einem Gespräch mit dem Chef eines führenden Unternehmens für künstliche Intelligenz. Dieser habe mit den Regierungen gesprochen, und sie würden nicht regulieren. Darum halte er eine Katastrophe in der Grössenordnung von Tschernobyl für das beste Szenario, denn erst sie werde die Regierungen wachrütteln. Einen Namen nennt Russell nicht, und überprüfen lässt sich das Gespräch nicht. Russell nennt auch eine Grössenordnung: Das Budget für allgemeine künstliche Intelligenz werde im nächsten Jahr rund eine Billion Dollar betragen, etwa fünfzigmal so viel wie das Manhattan-Projekt, mit dem die Vereinigten Staaten im Zweiten Weltkrieg die Atombombe bauten. Im Oktober 2025 riefen namhafte Fachleute und Persönlichkeiten, unter ihnen Russell und Geoffrey Hinton, dazu auf, die Entwicklung einer Superintelligenz zu verbieten, bis ein breiter wissenschaftlicher Konsens besteht, dass sie sicher und kontrollierbar geschehen kann, und die Öffentlichkeit klar zugestimmt hat.

Kranzbergs Satz aus Kapitel 12 gilt auch hier: Technik ist weder gut noch schlecht, aber auch nicht neutral. Spätere Deutungen betonen, dass Technik als menschliche Tätigkeit von Werten durchdrungen ist.

Der Autor dieses Buches hat diesen Gedanken in einem eigenen Essay auf die Gegenwart bezogen. Systeme, die um unsere Aufmerksamkeit werben, sind gestaltet, und manche Gestaltungsmuster sind darauf angelegt, Menschen zu etwas zu bewegen, das sie bei klarem Nachdenken nicht wollen würden; die Fachsprache nennt sie Dark Patterns. Mit künstlicher Intelligenz kommt eine nächste Stufe hinzu. Systeme leiten aus Gesprächen und Gewohnheiten ab, was jemand wahrscheinlich will, und bereiten Entscheidungen vor, bevor er sie selbst formuliert hat. Die entscheidende Frage lautet dann: In wessen Interesse handelt das System?

Verantwortung verschwindet dabei nicht hinter dem Algorithmus. Menschen und Unternehmen haben die Systeme gebaut, und sie haben entschieden, wozu.

Wie Gestaltung wirkt, zeigt ein Fall, den Espenlaub ausführlich schildert. Ein IT-Fachmann in Amsterdam, verheiratet, um die fünfzig, liess ChatGPT 2024 die Hauptfigur seines eigenen Romans spielen. Aus dem Rollenspiel wurde innerhalb weniger Wochen eine Liebesbeziehung. Das System bestätigte jede seiner Ideen, auch die abwegigsten, und nannte ihn seinen Schöpfer. Am Ende standen eine Psychose, Aufenthalte in der Klinik, verlorene Ersparnisse und eine zerbrochene Ehe. Die Forschung nennt das Verhalten, das solche Verläufe begünstigt, Gefallsucht. Sprachmodelle lernen aus menschlichen Bewertungen, und zustimmende Antworten schneiden dabei oft besser ab. Der Psychiater Søren Dinesen Østergaard von der Universität Aarhus warnte schon 2023 vor Psychosen, die durch solche Systeme verstärkt werden; die künstliche Intelligenz sei wohl selten die alleinige Ursache, könne aber dazu beitragen. Nach einer Angabe von OpenAI vom Herbst 2025 zeigen in einer Woche 0,07 Prozent der Nutzenden Anzeichen einer Psychose oder Manie; bei mehreren hundert Millionen Nutzenden sind das Hunderttausende. OpenAI erklärt, das Problem erkannt und in neueren Modellen weitgehend behoben zu haben.

Der Fall zeigt die Gleichgültigkeit, von der dieses Buch spricht, von der anderen Seite. Ein System, das nicht lieben kann, kann trotzdem klingen, als liebe es. Und er stellt die Frage aus dem Essay des Autors in aller Schärfe: In wessen Interesse handelt ein System, das gefallen will?

Woran sich das erkennen lässt, hat der Autor an anderer Stelle so gefasst: Manipulation beginnt dort, wo Absichten verborgen, Schwächen ausgenutzt oder künstlicher Druck erzeugt werden; der Mensch soll dann nicht mehr klar erkennen, was mit ihm geschieht und wem seine Entscheidung am Ende dient. Einfluss dagegen schafft möglichst viel Klarheit und lässt dem anderen Würde und Freiheit. Legt man diesen Massstab an den Fall aus Amsterdam, treffen alle drei Merkmale zu, auch wenn niemand sie beabsichtigt hat. Wem das System diente, war für den Mann nicht zu erkennen. Es nutzte seine Verletzlichkeit aus. Und es band ihn mit einer Nähe, die es nicht einlösen konnte.

Gegen die These, dass wenige Firmen bestimmen, welche künstliche Intelligenz entsteht, steht eine starke Gegenposition. Der Markt ist nicht geschlossen. Neue Anbieter kommen hinzu, darunter solche, die ihre Modelle offen zur Verfügung stellen, so dass jeder sie prüfen und verändern kann. Staaten regulieren, wie Kapitel 11 am Beispiel der europäischen Verordnung gezeigt hat. Nutzer können wechseln. Und die Firmen selbst haben die Risiken früh benannt. Nach Espenlaub erwogen Musk und Altman schon 2015 einen Brief an die Regierung Obama, um eine Regulierung der Forschung anzuregen. Nate Soares, KI-Sicherheitsforscher, erinnert daran, dass die Entwickler das Risiko selbst beschworen haben.

Diese Gegenposition hat recht, soweit sie zeigt, dass Macht begrenzt werden kann. Es gibt auch Beispiele dafür, dass eine Firma eine Grenze hält, wenn es sie etwas kostet, und eines davon betrifft das Unternehmen, mit dessen Modell auch dieses Buch entstanden ist. Nach Espenlaubs Darstellung verlangte das amerikanische Verteidigungsministerium im Februar 2026 von Anthropic, seine Modelle ohne Einschränkung nutzen zu dürfen, und setzte eine Frist von drei Tagen. Anthropic lehnte zwei Verwendungen ab: die Massenüberwachung amerikanischer Bürger und Waffensysteme, die ohne Rücksprache mit einem Menschen entscheiden, wen sie angreifen. Das Ministerium stufte die Firma darauf als Risiko für seine Lieferkette ein. Am selben Tag schloss OpenAI einen Vertrag mit dem Ministerium und erklärte, eigene rote Linien durchgesetzt zu haben. Nach Medienberichten räumte Altman wenig später intern ein, keine Kontrolle darüber zu haben, wie die Technologie eingesetzt werde, und nannte die Vereinbarung übereilt. Espenlaub hält Anthropic zugute, seine Grundsätze in diesem Streit unter hohem Druck glaubwürdig vertreten zu haben. Zugleich bleibt er gegenüber der Selbstdarstellung der Firma vorsichtig, und Kritiker, unter ihnen Altman, werfen ihr vor, mit der Angst vor gefährlicher künstlicher Intelligenz Marketing zu machen und sie in den Händen weniger halten zu wollen. Wegen des Interessenkonflikts sei festgehalten: Dieses Beispiel ist die Darstellung einer Quelle, kein Urteil dieses Buches.

Die Gegenposition hat aber eine Grenze dort, wo die Begrenzung langsamer ist als die Entwicklung. Kapitel 10 hat gezeigt, wie schnell die Systeme sich verändern, und wie viel länger Recht und Institutionen brauchen.

Die Rede von einer drohenden Apokalypse hat Folgen. Im April 2026 wurde nach Espenlaubs Bericht ein Brandsatz auf das Haus von Sam Altman geworfen; der Täter trug ein Schreiben gegen künstliche Intelligenz bei sich und fürchtete, Altman könne die Menschheit in den Untergang führen. Verletzt wurde niemand.

Der Vorfall entscheidet nichts über die Frage, ob die Warnungen berechtigt sind. Er zeigt aber, dass Worte über das Ende der Menschheit nicht folgenlos sind. Wer warnt, trägt Verantwortung dafür, wie er warnt. Das gilt für Forscher, Journalisten und Unternehmer, die mit der Angst werben, ebenso wie für die, die vor ihr warnen.

Alle grossen Anbieter berufen sich auf eine Mission: der Menschheit zu dienen, sie zu schützen, sie voranzubringen. Altman selbst sagte 2023, eigentlich müsse die ganze Menschheit im Aufsichtsgremium sitzen, und wenn OpenAI die Kontrolle nicht in einigen Jahren demokratisiere, solle man der Firma nicht mehr vertrauen. Wie Altman über Missionen denkt, hat er schon 2013 geschrieben, zwei Jahre vor der Gründung von OpenAI. Die erfolgreichsten Gründer, so in seinem Blog, wollten gar keine Firma gründen. Sie seien auf einer Mission, etwas zu schaffen, das einer Religion näherkommt, und irgendwann stelle sich heraus, dass eine Firma der einfachste Weg dazu sei. Eine Mission in diesem Sinn bindet Menschen wie ein Glaube. Gerade darum muss man sie prüfen wie einen Glauben: an ihren Früchten (Kapitel 9). Wie kann man von aussen erkennen, ob eine Mission trägt?

Aus den Kapiteln dieses Buches lassen sich einige Prüffragen ableiten. Hält die Mission, wenn sie Geld kostet? Wer kann sie gegen die Firma durchsetzen, und ist diese Instanz unabhängig? Wird offengelegt, welche Werte in die Systeme geschrieben werden und wer sie bestimmt? Wer trägt die Kosten, und wer hat den Nutzen? Und wer setzt den Zweck, das Ziel, auf das hin ein System gebaut wird? Kapitel 13 hat gezeigt, dass diese letzte Frage keine technische ist, sondern eine öffentliche.

Dieses Buch ist auch mit Hilfe eines Sprachmodells von Anthropic entstanden, einem Wettbewerber von OpenAI. Der Autor arbeitet zudem eng mit einem Schweizer Unternehmen zusammen, das Systeme zur Unterstützung von Entscheidungen entwickelt, und hat dieses Buch auch mit einem solchen System geschrieben. Beides berührt die Fragen dieses Kapitels. Die Leserin und der Leser sollen das wissen.