Superintelligence: Zuckerbergs verzweifelter Versuch, Meta neu zu erfinden

Was ist

Mark Zuckerberg hat 625 Wörter über „Personal Superintelligence“ geschrieben. Der Text ist vage und voller Plattitüden. Trotzdem lohnt sich ein genauerer Blick, denn Zuckerbergs Zukunftsvision zeigt, dass Metas bisherige KI-Strategie in Teilen gescheitert ist.

Was war

Als Meta im Mai die Zahlen für das erste Quartal vorstellte, gab Zuckerberg eine Reihe von Interviews, in denen er seine KI-Pläne skizzierte:

• Ihm schwebt eine Welt vor, in der Chatbots zunehmend soziale und emotionale Bedürfnisse erfüllen, zu Freunden für einsame Menschen werden oder die Aufgaben von Therapeutïnnen übernehmen.
• Facebook und Instagram sollen zu Unterhaltungsmaschinen werden, die Menschen mit KI-generierten Inhalten und KI-generierter Werbung berieseln.
• Menschliche Kreativität tritt in den Hintergrund. Nutzerïnnen sollen mit geringstmöglichem Aufwand die größtmögliche Anzahl an Inhalten erzeugen. Texte, Bilder und Videos lassen sich ganz einfach mit generativer KI erzeugen und teilen.
• Bei alldem wächst Metas Datenschatz immer weiter, weil jeder Prompt genauso überwacht und analysiert wird wie alle Interaktionen auf Facebook und Instagram.

Damals schrieben wir in einem Briefing mit dem Titel „Zuckerbergs KI-Vision ist ein dystopischer Albtraum“ (SMWB):

Das klingt auf jeden Fall nach einer Welt, in der Meta viel Geld verdient. Wenn man aber nicht gerade Mark Zuckerberg heißt oder Meta-Aktien besitzt, ist die Vorstellung eher gruselig.

Drei Monate später nimmt Zuckerberg die Zahlen für das zweite Quartal erneut zum Anlass, um Meta als KI-Konzern darzustellen. Inhaltlich greift er seine früheren Aussagen auf und erweitert sie um den Begriff der persönlichen Superintelligenz – allerdings ohne zu erklären, was er genau damit meint.

Damit folgt er Dario Amodei („Machines of Loving Grace“) und Sam Altman („The Gentle Singularity“), die auf ihren privaten Blogs hochtrabende Essays über das angeblich wundersame KI-Zeitalter veröffentlicht hatten.

Was Zuckerberg vorschwebt

Zuckerberg verwendet 13 Mal den Ausdruck „Superintelligence“ und schreibt von einer neuen Ära der Menschheit. Dabei bleibt unklar, wie sich Superintelligence von Artificial General Intelligence (AGI) unterscheidet.

Ohne klare Definition sind beide Begriff leere Buzzwords. Für Zuckerberg und Altman ist das praktisch. Sie können davon schwärmen und nach Belieben schwadronieren, ohne sich später rechtfertigen zu müssen – schließlich weiß niemand, was sich dahinter verbirgt.

Zuckerberg lästert über OpenAI, Anthropic und Google, ohne die Konkurrenten beim Namen zu nennen:

Das unterscheidet sich von anderen in der Branche, die glauben, dass Superintelligenz zentral gesteuert werden sollte, um sämtliche wertvolle Arbeit zu automatisieren, woraufhin die Menschheit von deren Erträgen leben würde. Bei Meta glauben wir, dass Fortschritt in Wohlstand, Wissenschaft, Gesundheit und Kultur stets dadurch erzielt wurde, dass Menschen ihren individuellen Bestrebungen nachgegangen sind. (…)
Wenn sich die aktuellen Trends fortsetzen, wird man erwarten, dass die Menschen weniger Zeit mit Produktivitätssoftware verbringen und mehr Zeit mit Kreativität und zwischenmenschlicher Verbindung. Eine persönliche Superintelligenz, die uns tief kennt, unsere Ziele versteht und uns dabei helfen kann, sie zu erreichen, wird mit Abstand am nützlichsten sein.

Diese Vision passt perfekt zum aktuellen Geschäftsmodell von Meta. Was Zuckerberg „Kreativität und zwischenmenschliche Verbindung“ nennt, heißt übersetzt: Instagram, Facebook und WhatsApp. Menschen sollen durch Feeds scrollen, KI-generierte Inhalte teilen und Werbung anschauen, die dank KI perfekt auf ihre Interessen zugeschnitten ist. Am Ende bedeutet „persönliche Superintelligenz“ in erster Linie, dass Meta mehr Anzeigen verkaufen kann.

Das unterscheidet Meta fundamental von konkurrierenden Unternehmen. OpenAI möchte generative KI selbst zum Produkt machen und ChatGPT-Abos verkaufen. Meta hofft, dass Sprachmodelle zu einer austauschbaren Ware werden, auf deren Grundlage Meta Produkte baut, die es monetarisieren kann.

Allerdings macht Zuckerberg eine bemerkenswerte Einschränkung:

Wir glauben, dass die Vorteile von Superintelligenz so weit wie möglich mit der ganzen Welt geteilt werden sollten. Gleichwohl wird Superintelligenz neue Sicherheitsbedenken aufwerfen. Wir müssen bei der Minderung dieser Risiken äußerst gewissenhaft vorgehen und sorgfältig abwägen, was wir quelloffen machen.

Damit bestätigt er Berichte, dass Meta von seinem Open-Source-Ansatz abrücken könnte (NYT). Demnach soll Metas neues Superintelligence Lab keine quelloffenen Modelle mehr entwickeln. Vor einem Jahr klang das noch anders, damals schrieb Zuckerberg (Meta-Newsroom):

Ich bin überzeugt, dass Open Source für eine positive KI-Zukunft unerlässlich ist. Künstliche Intelligenz hat mehr Potenzial als jede andere moderne Technologie, um die menschliche Produktivität, Kreativität und Lebensqualität zu steigern – und gleichzeitig das Wirtschaftswachstum zu beschleunigen sowie Fortschritte in der medizinischen und wissenschaftlichen Forschung zu ermöglichen. Open Source stellt sicher, dass mehr Menschen weltweit Zugang zu den Vorteilen und Chancen von KI erhalten, dass Macht nicht in den Händen weniger Unternehmen konzentriert wird und dass die Technologie gleichmäßiger und sicherer in der Gesellschaft eingesetzt werden kann.

Was das über Zuckerberg sagt

Zuckerberg ist ein begnadeter CEO. Er hat das Studenten-Start-up TheFacebook zu einem der mächtigsten und wertvollsten Konzerne gemacht. Der Meta-Chef besitzt ein gutes Gespür für Trends, kauft die richtigen Konkurrenten und kontrolliert drei der größten Kommunikationsplattformen.

Geschäftstüchtigkeit und Integrität gehen aber nicht immer Hand in Hand – ganz im Gegenteil. Oft zahlt sich Opportunismus wirtschaftlich aus. Diese inhaltliche und moralische Flexibilität hat Zuckerberg immer wieder unter Beweis gestellt.

Seinem Pamphlet über persönliche Superintelligenz gingen vier Manifeste voraus, mit denen er Meta jeweils am Zeitgeist ausrichtete: