Warum Sam Altman 2023 gefeuert wurde

Was ist

In unserer Sommerpause haben wir viel gelesen, unter anderem zwei Bücher über Sam Altman und OpenAI:

• Keach Hagey: The Optimist – Sam Altman, OpenAI, and the Race to Invent the Future (W. W. Norton)
• Karen Hao: Empire of AI – Dreams and Nightmares in Sam Altman's OpenAI (Penguin Random House)

Beide wurden im Mai auf Englisch veröffentlicht. Am kommenden Freitag erscheint die deutsche Übersetzung unter dem Titel „Sam Altman“ (Bastei Lübbe). Das nehmen wir zum Anlass, die Bücher zu vergleichen, ihre Kernaussagen zusammenzufassen und, so viel sei vorweggenommen, beide nachdrücklich zu empfehlen.

Warum das wichtig ist

Generative KI ist nicht magisch, aber mächtig. Sprachmodelle sind eine kulturelle, soziale und politische Technologie, die ähnlich tiefgreifende Auswirkungen haben wird wie Sprache, Schrift, Druck oder Elektrizität – im Guten wie im Schlechten (SMWB).

ChatGPT ist das mit Abstand erfolgreichste KI-Produkt, das den aktuellen Boom überhaupt erst ausgelöst hat. Altman sagt seit Jahren bei jeder Gelegenheit, dass er KI nicht aus kommerziellen, sondern aus altruistischen Gründen entwickle. OpenAI schreibt auf seiner Webseite:

OpenAI is an AI research and deployment company. Our mission is to ensure that artificial general intelligence benefits all of humanity. We are building safe and beneficial AGI, but will also consider our mission fulfilled if our work aids others to achieve this outcome.

Die Realität sieht anders aus. Altman hat OpenAI längst in ein gewöhnliches Unternehmen verwandelt (SMWB). Er sammelt Milliarden von fragwürdigen Investoren ein, lobbyiert gegen Regulierung, priorisiert Wachstum höher als Sicherheit und versucht, der gemeinnützigen Dachorganisation eine kommerzielle Struktur zu geben.

Vor zwölf Jahren, also noch vor der Gründung von OpenAI, schrieb er auf seinem privaten Blog:

Erfolgreiche Menschen gründen Unternehmen. Erfolgreichere Menschen gründen Länder. Die erfolgreichsten Menschen gründen Religionen.

Dieser Leitspruch passt zu seinem späteren Verhalten. Einst warnte Altman vor der KI-Apokalypse, mittlerweile schwärmt er von unbegrenztem Wohlstand, beides erinnert an einen religiösen Kult. Die Bücher setzen diesen Narrativen Fakten entgegen.

Wie sich die Bücher unterscheiden

• Die Wall-Street-Journal-Reporterin Hagey und Hao, die frei für den Atlantic und MIT Technology Review arbeitet, sind beide Investigativjournalistinnen, die seit vielen Jahren über OpenAI berichten. Trotzdem unterscheiden sich ihre Bücher deutlich.
• Hagey konnte für "The Optimist" direkt mit Altman und OpenAI sprechen. Ihr Buch ist eine eher klassische Biografie, die Altmans Leben, seine Motive und die Vorgänge bei OpenAI beschreibt.
• Dagegen sagte das Unternehmen die vereinbarten Interviews mit Hao kurzfristig ab. "Empire of AI" nähert sich OpenAI deshalb eher investigativ. Die Autorin führte mehr als 300 Interviews und sprach mit etlichen ehemaligen und aktuellen Angestellten.
• Ein Teil ihrer Recherche geht über OpenAI hinaus. In einem zweiten Erzählstrang erklärt Hao, wie das Wetteifern um immer leistungsfähigere Modelle auf dem Rücken von Menschen in Afrika und Lateinamerika ausgetragen wird, die selbst gar nicht von der Technologie profitieren.
• "Empire of AI" zeigt, dass KI oft weder künstlich noch intelligent ist, sondern das Produkt von Ausbeutung menschlicher und natürlicher Ressourcen. Folgt man ihrer Deutung, stehen die zwei Buchstaben eher für (neo)koloniale Imperien.
• In Kenia porträtiert sie Menschen, die das Trainingsmaterial für Sprachmodelle filtern. Genau wie die Content-Moderatorïnnen für Social-Media-Plattformen leiden sie unter den verstörenden Inhalten, klagen über schlechte Arbeitsbedingungen und werden mies bezahlt, während KI-Konzerne Milliarden verdienen.