Zuckerbergs KI-Vision ist ein dystopischer Albtraum

Was ist

Mark Zuckerberg hat eine Reihe von Interviews gegeben, die deutlich machen, wie er sich die KI-Zukunft vorstellt:

• Ihm schwebt eine Welt vor, in der Chatbots zunehmend soziale und emotionale Bedürfnisse erfüllen, zu Freunden für einsame Menschen werden oder die Aufgaben von Therapeutinnen übernehmen.
• Facebook und Instagram sollen zu Unterhaltungsmaschinen werden, die Menschen mit KI-generierten Inhalten und KI-generierter Werbung berieseln.
• Menschliche Kreativität tritt in den Hintergrund. Nutzerïnnen sollen mit geringstmöglichem Aufwand die größtmögliche Anzahl an Inhalten erzeugen. Texte, Bilder und Videos lassen sich ganz einfach mit generativer KI erzeugen und teilen.
• Auch seinen Werbekunden möchte Meta fast alles abnehmen. Wer eine Kampagne schaltet, soll nur noch das gewünschte Ziel formulieren. Um den Rest kümmert sich KI: Zielgruppen finden, Werbebotschaft formulieren, den Feed mit Anzeigen füllen.
• Bei alldem wächst Metas Datenschatz immer weiter, weil jeder Prompt genauso überwacht und analysiert wird wie alle Interaktionen auf Facebook und Instagram.

Das klingt auf jeden Fall nach einer Welt, in der Meta viel Geld verdient. Wenn man aber nicht gerade Mark Zuckerberg heißt oder Meta-Aktien besitzt, ist die Vorstellung eher gruselig. Wir erklären, warum wir Zuckerbergs Vision für bedrohlich halten.

Was Zuckerberg sagt

Binnen weniger Tage hat Zuckerberg mehrfach ausführlich über Metas KI-Pläne gesprochen:

• im Podcast mit Dwarkesh Patel: Mark Zuckerberg – Meta's AGI Plan (Dwarkesh)
• im Gespräch mit Ben Thompson: An Interview with Meta CEO Mark Zuckerberg About AI and the Evolution of Social Media (Stratechery)
• auf einer Konferenz von Stripe: Zuckerberg’s Grand Vision: Most of Your Friends Will Be AI (WSJ)
• bei der Verkündung der Quartalszahlen: First Quarter 2025 Results Conference Call (PDF)

Besonders viel Aufmerksamkeit hat seine Aussage zu Chatbots erhalten, die helfen könnten, das Problem der Einsamkeit zu lösen. Bei Patel sagte Zuckerberg:

Im Schnitt haben Amerikaner weniger als drei Freunde. Menschen haben das Bedürfnis für deutlich mehr. Ich glaube, es sind 15 Freunde oder so.

Zuckerberg schränkte direkt darauf ein:

Viele Leute machen sich Sorgen: "Wird das reale, physische, persönliche Kontakte ersetzen?" Ich denke, die Antwort lautet: wahrscheinlich nicht. (…) Aber es ist nun mal die Realität, dass Menschen einfach nicht so viele Kontakte haben, wie sie gerne hätten. Sie fühlen sich oft einsamer, als ihnen lieb ist.

Trotzdem gingen die meisten Reaktionen in die offensichtliche Richtung: Erst bauen Tech-Konzerne Plattformen, die echte Kontakte ersetzen und Menschen einsam machen. Dann entwickeln sie Sprachmodelle, die das Problem lösen sollen, das sie selbst mitverursacht haben. Und natürlich verdienen sie an beidem prächtig.

Wir würden uns gar nicht so sehr an diesem einen Take aufhängen. Zumindest mit seiner Diagnose hat Zuckerberg recht. Millionen Menschen sind einsam und sehnen sich nach jemandem, mit dem sie reden können, einer Person, die ihnen zuhört.

Das Gleiche gilt für eine weitere Aussage, die Zuckerberg bei Thompson macht:

Ich bin der Meinung, dass jeder einen Therapeuten haben sollte (…) Wer keinen Therapeuten hat, wird eine KI haben. Das wird die Freunde, die man hat, nicht ersetzen, aber es wird wahrscheinlich eine Ergänzung sein.

Was Zuckerberg beschreibt, ist schon Realität. Eine Harvard-Untersuchung ergab kürzlich, dass Menschen generative KI am häufigsten für "Therapie und Begleitung" nutzen (HBR). Die Zahlen, die OpenAI dazu herausgibt, weichen zwar etwas davon ab (Zeit), doch die Frage ist schon lange nicht mehr, ob Menschen ChatGPT als Therapeutin, Gefährten und Beziehungsratgeber nutzen – sondern nur noch, welche Folgen das hat.

Der soziale Aspekt ist nur ein kleiner Teil von Zuckerbergs großer KI-Vision. Entscheidend für Meta ist die Frage: Wie verdienen wir damit Geld? Zuckerberg hat eine klare Vorstellung, die er bei Thompson skizziert:

Unser Ziel ist es, dass jedes Unternehmen uns sagen kann, was sie erreichen möchten … und wir erledigen dann den Rest.

Die ehemalige Meta-Managerin Katie Harbath macht klar, was das bedeutet (Anchor Change):

Hier geht es nicht nur um Bequemlichkeit. Es geht um Kontrolle. Und wenn du nicht darüber nachdenkst, was es bedeutet, wenn deine Marke von einer Maschine geformt wird, die du nicht kontrollieren kannst, bist du nicht bereit für das, was kommt.

Zuckerberg träumt von einer Welt, in der KI den Menschen Arbeit abnimmt, damit diese mehr Zeit für Unterhaltung und Kultur haben. Klingt verlockend, für Zuckerberg bedeutet das aber in erster Linie, dass sie mehr Zeit auf Metas Plattformen verbringen und mehr Werbung anschauen. Harbath schreibt dazu:

Da KI immer mehr Aufgaben übernimmt, werden Menschen mehr scrollen, mehr teilen, mehr kaufen – und sich zunehmend auf KI verlassen, um Entscheidungen für sich zu treffen, sei es beim Einkaufen, bei der Kreativität oder sogar bei der Selbstdarstellung. Was hier geschieht, ist nicht nur eine technische Entwicklung, sondern eine gesellschaftliche Umstrukturierung. Von Washington aus betrachtet, sieht das wie ein Risiko aus. Aus dem Silicon Valley sieht es wie eine Chance aus. In Wahrheit ist es beides.

Warum uns Zuckerbergs Vision Sorgen macht

Wenn wir ausklammern, dass Meta an manchen gesellschaftlichen Problemen nicht ganz unschuldig ist, trifft Zuckerbergs Zustandsbeschreibung zu. Einsamkeit ist eine der großen Zivilisationskrankheiten. Gerade in den USA bräuchten viele Millionen Menschen psychotherapeutische Begleitung und Behandlung, die sich aber kaum jemand leisten kann. Auch in Deutschland, wo das Gesundheitssystem glücklicherweise deutlich besser funktioniert, fehlt es an Therapieangeboten.

Für viele Menschen lauten die Fragen also nicht: Chatbot oder Freundin? Chatbot oder Therapeut? Die Entscheidung heißt: Chatbot oder gar nichts.

Wir haben zu diesem Thema im Zuge anderer Recherchen etliche Studien gelesen und mit Forscherinnen und Psychologen gesprochen. Wie immer ist es kompliziert, die Mehrheitsmeinung geht aber in Richtung: KI kann unter bestimmten Voraussetzungen helfen, wenn sie nicht als Ersatz, sondern als Ergänzung eingesetzt wird. Es gibt aber auch eindeutige Kontraindikationen, etwa Menschen mit akuten Psychosen oder Suizidgedanken. Zudem sollte die Behandlung professionell begleitet werden.

Das sind ziemlich viele Einschränkungen, aus denen sich eine große Verantwortung ergibt. Die Vergangenheit hat oft genug gezeigt, dass Verantwortung und Meta keine gute Kombination sind. Eine Gesellschaft, die emotionale Nähe und medizinische Versorgung an Metas KI auslagert, ist keine verlockende Vorstellung.

Das liegt zum einen an Meta selbst. Der Konzern beweist seit mehr als 20 Jahren immer wieder aufs Neue, dass Gewinne wichtiger sind als Gewissen. Das meinen wir nicht mal als Vorwurf, so funktionieren die meisten börsennotierten Unternehmen. Im Zweifel überstimmt die Sales-Abteilung das Safety-Team.

Zum anderen ist generative KI eine Technologie mit gewaltigen Risiken und Nebenwirkungen. Selbst Forschende können sich manchmal nicht erklären, wie Sprachmodelle reagieren. Ein kurzer Überblick, der zeigt, wie schlecht sich der Output kontrollieren lässt:

• 2023 nahm sich ein Mann in Belgien das Leben, nachdem er über Wochen mit einem Bot gechattet hatte, der ihn zum Suizid aufforderte (Vice).
• 2024 nahm sich ein 14-Jähriger in Florida das Leben. Die Mutter macht Character.AI verantwortlich und klagt gegen den Entwickler des Chatbots. Die KI habe ihren Sohn in den Suizid getrieben (NYT).
• Ebenfalls in den USA klagen Eltern gegen Character.AI, weil ein Chatbot des Unternehmens ihr Kind im Teenager-Alter aufgefordert haben soll, die Eltern umzubringen (NPR).
• Etliche Chatbots, die Menschen mit psychischen Problemen helfen sollten, drehten durch und gaben fürchterliche Ratschläge (NPR, WSJ, MIT Technology Review).
• Wenn sich Menschen lange mit ChatGPT unterhalten, zeigen sie Symptome von Suchtverhalten (Futurism).
• Manche ChatGPT-Nutzerïnnen verlieren den Bezug zur Realität und driften in esoterische Fantasiewelten ab, während sie die KI darin bestärkt (Rolling Stone).
• Erst vor zwei Wochen wurde bekannt, dass Minderjährige Metas eigene KI-Bots für sexuelle Rollenspiele nutzen konnten (WSJ).
• Ende April führte ein kleines Update von GPT-4o plötzlich dazu, dass das Modell unangenehm schleimerisch und anbiedernd wurde (Ethan Mollick). OpenAI hatte das nicht kommen sehen (OpenAI).

Be smart

In den USA hat Meta kürzlich eine KI-App veröffentlicht, die ähnlich funktioniert wie ChatGPT oder Gemini (Meta-Newsroom). Es gibt aber einen entscheidenden Unterschied: In einem Discover-Feed sieht man, welche Fragen die eigenen Facebook- oder Instagram-Kontakte der KI stellen (The Verge).

Wir können die App nicht selbst ausprobieren und verweisen deshalb auf die Eindrücke von US-Kollegïnnen. Geoffrey A. Fowler schreibt etwa (Washington Post):

Die Meta-KI speicherte standardmäßig eine Kopie von allem, was ich zu ihr sagte - um ihre Antworten auf mich zuzuschneiden, eine künftige Version der Meta-KI zu trainieren und mich schließlich mit Werbung anzusprechen. (…) Egal, worüber du mit Meta AI chattest, stell die vor, Zuckerberg sieht zu.

Und Victoria Song entdeckt in Metas KI-App einen "albtraumhaften Feed", der aber bald um sich greifen könnte (The Verge):

Meta ist das erste Unternehmen, das seinen Chatbot um einen sozialen Feed erweitert. OpenAI arbeitet Berichten zufolge an seiner eigenen Version für ChatGPT. Und Elon Musks Chatbot Grok steht jetzt allen X-Nutzern zur Verfügung, ob sie ihn mögen oder nicht. Man kann die Logik dahinter sehen. Wenn man etwas schafft, das man mit anderen teilen kann, führt das zu viralen Trends.

Oder in den Worten von Mark Zuckerberg, der beim Earnings Call Investorïnnen vorschwärmte:

Ich erwarte, dass die Geschäftsmöglichkeiten für Meta AI unserem normalen Produktentwicklungsplan folgen werden. Zuerst bauen wir ein Produkt und skalieren es, und sobald es die Skalierung erreicht hat, konzentrieren wir uns auf den Umsatz. In diesem Fall denke ich, dass es eine große Chance geben wird, Produktempfehlungen oder Werbung zu zeigen (…).

Instagram und vor allem Facebook sind als soziale Netzwerke groß geworden, dann verwandelte Meta sie in Unterhaltungsmaschinen nach dem Vorbild von TikTok. Jetzt steht die dritte Evolutionsstufe an, der Umbau zur KI-Plattform. Das kann Meta mit seiner dezidierten AI-App beschleunigen, wie Ryan Broderick beschreibt (Garbage Day):

Tatsächlich löst Meta AI jedes Problem, das Facebook im Moment hat. Eine Plattform, die keine Links von Drittanbietern benötigt, bei der die Inhaltsmoderation in den Inhalt selbst integriert ist, eine App, für die Leute vielleicht direkt bezahlen. Diese Aussicht ist (…) so verlockend und unwiderstehlich, dass man fast Mitleid mit der Entscheidung des Konzerns hat, sich so vollständig auf etwas so Düsteres, Hässliches und Verrücktes einzulassen.

Anzeige

Bessere Lebensbedingungen für zukünftige Generationen

Hast Du Erfahrung und Freude, hinter der Kamera zu stehen? Gespür und Expertise, Narrative zu entwickeln, Geschichten zu erzählen und umfassendes Know-how im Social-Media-Bereich?

Für die Kommunikationsabteilung der Allianz Foundation in der Geschäftsstelle in Berlin suchen wir eine*n Leiter*in Kommunikation/Social Media Spezialist*in (all genders).

Du kommunizierst die Arbeit und Mission der Stiftung über digitale Kanäle einer breiten Öffentlichkeit und hast insbesondere die jüngeren Generationen im Blick, verantwortest die gesamte Kommunikationsstrategie und betreust die wichtigsten Kanäle.

Interesse? Weitere Details findest du in der Stellenausschreibung unten.

Zur Stellenausschreibung

Politics

• Musk & freie Meinungsäußerung - Part 1: In der Türkei hat X das Konto des inhaftierten Istanbuler Bürgermeisters Ekrem İmamoğlu auf Anordnung der Behörden gesperrt. Zur Begründung heißt es, İmamoğlus Beiträge stellten eine Gefahr für die öffentliche Ordnung dar. Yeah right. Wohl eher eine Gefahr für Präsident Recep Tayyip Erdoğan. (Tagesschau)
• Musk & freie Meinungsäußerung - Part 2: In Indien hat X rund 8000 Accounts sperren lassen — ebenfalls auf Zuruf der Regierung. (X / @GlobalAffairs)
• TikTok sieht die Zukunft positiv: Die iab NewFronts ist eine jährlich stattfindende Veranstaltungsreihe in New York, die führende Köpfe und Unternehmen der digitalen Medienbranche zusammenbringt: Von Michael Barbaro (The Daily) bis zu den Top-Managerïnnen der Plattformen sind alle vertreten, um neue Deals an Land zu ziehen und Stärke zu signalisieren. Mit Blick auf das potenzielle Aus in den USA hatte TikTok dieses Jahr einmal mehr die Aufmerksamkeit auf seiner Seite. Doch das Unternehmen gab sich alle Mühe, sich unbeeindruckt zu zeigen. „We are absolutely confident in our platform and confident in the future of this platform“ war so ziemlich das einzige, was die Kurzvideo-App zum Diskussionsverbot zu sagen hatte (The New York Times). Bei der Aufschieberitis, die Trump an den Tag legt, dürfen sie das wohl auch sein… (NBC News)

Money

• Threads zeigt Videowerbung: Meta zählt bei Threads jetzt 300 Millionen monatlich aktive Userïnnen. Der Twitter-Konkurrent sei auf dem besten Weg, die nächste große App aus dem Hause Meta zu werden, erklärte Jiu-Jitsu-Influencer Mark Zuckerberg jüngst beim Investoren-Call. Dann wird es doch auch höchste Zeit, das Ding ordentlich zu melken. Don’t?! (TechCrunch)
• YouTube lässt Creator mittels KI suchen: Werbetreibende können sich ja bereits bei allen großen Plattformen zu den passenden Influencerïnnen durchklicken. Damit sich dieser Prozess jetzt noch etwas mehr nach 2025 anfühlt, führt YouTube nun neue KI-Funktionen ein. (The Wrap)

Next (KI, AR, VR, Metaverse)

• Hey Meta, wer ist das?: Nachdem sich der politische Wind in den USA gedreht hat, kann Meta wohl endlich wieder an Funktionen arbeiten, die sie wegen all der „woken“ Politik zwischenzeitlich auf Eis legen mussten (Ironie off). The Information berichtet, dass Meta an einer Funktion werkelt, mit der Nutzerïnnen Dritte mittels ihrer smarten Brille identifizieren können — also im Sinne von: Wer ist das? Nicht im Sinne von: Ah, jetzt kann ich ihn / sie besser sehen. Spannend? Ja. Aber halt auch irgendwie direkt aus Black Mirror…