Wem Verschwörungserzählungen wirklich nutzen

👋🏻 Neues aus der Musa

Kurz eine kleine Nachfrage zu den vergangenen Ausgaben: Sind alle Newsletter wie üblich im Postfach gelandet? Oder gab es Schwierigkeiten bei der Zustellung? Ich hatte einige Direktnachrichten dazu erhalten und wollte nun einfach mal sichergehen, dass mein Newsletter nicht hundertfach im Spam-Ordner landet. Was immer hilft: Die Adresse briefing@socialmediawatchblog.de in die vertrauenswürdigen Kontakte aufnehmen. Danke!

In der vierten Folge meiner neuen Gesprächsreihe spreche ich mit Katharina Nocun über Verschwörungserzählungen. Mich interessiert das Thema sehr - leider nicht nur aus beruflichen Gründen. Ich hoffe, du kannst mit dem Gespräch auch etwas anfangen. Falls ja, teile es gern mit Freunden und Bekannten. Du findest das Gespräch auf YouTube, Spotify, Apple Podcast, Overcast und allen weiteren Podcast-Apps – den kompletten Überblick gibt es unter fehrensen.transistor.fm.

FEHRENSEN: Analysen zur digitalen Öffentlichkeit | Wie Verschwörungstheorien funktionieren – und wem sie nutzen | Katharina Nocun

Verschwörungstheorien funktionieren – und genau das macht sie gefährlich.Sie geben Menschen Halt, Identität und das Gefühl, die Wahrheit durchschaut zu haben. Und sie nutzen autoritären Akteuren, w…

FEHRENSEN: Analysen zur digitalen Öffentlichkeit

💡 Deep Dive

Was ist

Nach den Schüssen beim Gala-Dinner in Washington konnte man sich einmal mehr vor Verschwörungserzählungen kaum retten. Vor allem eine Frage stand dabei im Zentrum: War es eine False-Flag-Operation, damit Donald Trump die Zustimmung zum Bau seines neuen Ballsaals erhält? Was vor wenigen Jahren noch heftige Gegenreaktionen ausgelöst hätte, wundert heute kaum noch jemanden (Garbage Day).

Mit der zweiten Trump-Administration im Weißen Haus, dem öffentlichen Schulterschluss zentraler Plattform-CEOs mit der neuen US-Regierung und einer aufgeheizten Debatte rund um die Epstein-Files erleben wir, wie verschwörungsideologische Erzählungen aus Nischen in den politischen Mainstream wandern. Was vor fünf Jahren noch QAnon-Telegram war, ist heute Regierungssprech.

Und nicht nur in den USA. Daten zur Bundestagswahl 2025 zeigen: Falschbehauptungen über angeblichen Wahlbetrug und eine geplante Annullierung der Wahl wurden millionenfach gesehen (CeMAS-Report „Autoritäre Strategien im Netz“).

Ich wollte von einer Person, die das Feld seit Jahren beobachtet, wissen: Wie funktionieren diese Erzählungen? Warum verfangen sie? Und welche Rolle spielen Plattformen, KI und politische Akteure dabei?

Wer spricht

Katharina Nocun ist Politikwissenschaftlerin und Autorin. Gemeinsam mit der Sozialpsychologin Pia Lamberty hat sie drei Bücher zum Thema veröffentlicht: „Fake Facts“ (2020), „True Facts“ (2021) und „Gefährlicher Glaube“ (2022). Was sie für dieses Gespräch zu einer besonders guten Stimme macht, ist nicht der Stapel Bücher von ihr auf meinem Schreibtisch, sondern die Mischung aus politikwissenschaftlicher Analyse und persönlicher Recherche in Telegram-Gruppen, in denen man eigentlich keine Zeit verbringen möchte. Nocun moralisiert nicht. Sie erklärt. Und sie redet nicht von ‚den Spinnern'. Sie nimmt das Milieu ernst genug, um es zu sezieren.

Links:

• Hier findet man Katharina Nocuns Bücher
• Website: kattascha.de
• Podcast: denkangebot.org
• Bluesky: kattascha.bsky.social
• LinkedIn: katharina-nocun

Meine wesentlichen Notizen aus unserem Gespräch

Verschwörungserzählungen sind keine Folge des Internets. Nocun räumt mit einem Missverständnis auf, das vor allem in tech-kritischen Kreisen arg verbreitet ist: Die Annahme, soziale Medien hätten Verschwörungserzählungen erst hervorgebracht. Tatsächlich seien viele dieser Narrative jahrhundertealt. Antisemitische Schauergeschichten aus dem Mittelalter tauchen heute als QAnon-Mythen wieder auf. Auch im rechtsesoterischen Milieu kursieren viele Erzählungen seit Jahrzehnten. Wer also Verschwörungsideologien primär als Plattformproblem versteht, übersieht, dass es eine sehr alte Infrastruktur gibt (Verlage, Bewegungen, Milieus), die längst da waren, bevor TikTok existierte.

Gelebte Remix-Kultur: Verschwörungserzählungen entstehen selten neu. Sie werden recycelt, aktualisiert, in neue Anlässe eingewebt. Die Pandemie war dafür ein eindrückliches Beispiel. Erzählungen, die vorher in kleinen esoterischen Zirkeln verbreitet waren, fanden plötzlich Massenanschluss. Aktuell beobachtet sie dieselbe Mechanik bei den Epstein-Files. Bestehende Erzählungen werden an die neuen Dokumente angedockt, oft unter dem Etikett „haben wir doch schon immer gesagt“. Nocun widerspricht diesem Framing scharf: Die Opfer hätten schon immer das erzählt, was sie erzählt haben, nur habe man ihnen nicht geglaubt, weil man lieber Verschwörungserzählungen verbreitet habe.

Anfälligkeit ist keine Frage des Charakters. Statt zu fragen, welcher Typ Mensch anfällig ist, lenkt Nocun den Blick auf welche Situationen anfällig machen. Hier gibt es einen sehr gut belegten Zusammenhang zwischen sogenannten Kontrollverlustsituationen – persönlichen, ökonomischen oder gesellschaftlichen Krisen – und der Neigung, Verschwörungserzählungen zu glauben. In der Logik der Erzählungen steckt nämlich ein paradoxer Trost. Eine geheime Elite, die alles steuert, ist erträglicher als die Wahrheit: Viren mutieren, und niemand hat die Kontrolle. Hinzu komme der psychologische Mehrwert für die Anhänger: das Gefühl, „die Matrix durchschaut zu haben“, „aufgewacht zu sein“, einer auserwählten Minderheit anzugehören. Dieser Punkt ist für Krisenkommunikation in der Politik zentral und wird, so Nocun, in Deutschland systematisch unterschätzt.

Die Plattformen wissen, was ihre Algorithmen anrichten. Bei der Frage nach der Plattformverantwortung wird Nocun deutlich. Es gehe nicht um pauschale Kritik am Internet – Wikipedia und Truth Social seien schließlich nicht dasselbe. Aber spätestens seit der Umstellung des YouTube-Empfehlungsalgorithmus auf Verweildauer statt Klicks hat Forschung gezeigt, dass dieser Schritt mit dem Wachstum verschwörungsideologischer Kanäle korreliert. Eine exakte Kausalität bleibt wissenschaftlich zwar umstritten, aber es sind eben auch keine Naturgesetze, über die wir hier reden. Bei Facebook existieren immerhin interne Studien, die genau diese Radikalisierungsdynamik beschreiben. Gehandelt werde nur teilweise. Nocuns Punkt ist nüchtern ökonomisch: Das Geld für ernsthafte Mitigationsmaßnahmen wäre da – etwa einer Hotline für Frauen, die von KI-Deepfakes betroffen sind. Nocun formuliert das so: „Will man halt nicht.“

Das Ziel von Desinformation ist nicht primär Überzeugung. Die Wirkung von Verschwörungserzählungen lasse sich nicht daran messen, wie viele Menschen sie glauben. Es reiche, wenn genug Menschen anfangen zu zweifeln – an Wissenschaft, Justiz, Medien, demokratischen Institutionen. Das ist die Logik vieler russischer Einflusskampagnen, die gut dokumentiert darauf zielen, Vertrauen in europäische Institutionen zu unterminieren, nicht eine bestimmte Gegenerzählung zu etablieren. Und es ist die Logik, die rechtsextreme und rechtspopulistische Akteure strategisch nutzen: Wer Justiz, Wissenschaft und Medien systematisch anzählt, schwächt genau jene unabhängigen Instanzen, die im Falle eines Machtgewinns unbequem werden würden. Nocun verweist auf Ungarn unter Orbán und die USA unter Trump als Lehrbuchbeispiele dieser Vorbereitungsstrategie.

Was sagen die anderen

Die These, dass Empfehlungssysteme zur Radikalisierung beitragen, ist seit dem Inkrafttreten des Digital Services Act nicht mehr nur Forschungsthema, sondern regulatorische Realität. Im November 2025 hat der Europäische Ausschuss für digitale Dienste seinen ersten Bericht zu systemischen Risiken vorgelegt (Europäische Kommission). Darin wird ausdrücklich festgestellt, dass die im DSA adressierten Risiken nicht einzelne Inhalte betreffen, sondern die Systeme dahinter – Empfehlungsalgorithmen, Werbesysteme, Moderationsinfrastruktur. Die Plattformen müssen seit 2024 jährliche Risikobewertungen vorlegen und unabhängig auditieren lassen. Das ist juristisch ein Quantensprung. Wie wirksam die Maßnahmen tatsächlich sind, ist allerdings umstritten. Das DSA Observatory kommt zu der Einschätzung, dass die Plattformen bislang vor allem auf Transparenz setzen, während echte Nutzer:innenkontrolle über Empfehlungssysteme bislang nur unzureichend umgesetzt wird.

Empirisch gut belegt ist auch die deutsche Dimension. Der bereits erwähnte CeMAS-Report zur Bundestagswahl 2025 dokumentiert, dass die AfD zwischen November 2024 und Februar 2025 rund 5.700 Videos auf TikTok und 44.000 Posts auf X veröffentlicht hat – ein Volumen, das sich deutlich von dem aller anderen Parteien abhebt, wie der Report dokumentiert. Falschbehauptungen rund um die Wahlintegrität erzielten Millionenreichweiten. Eine Analyse des Forschungsinstituts Gesellschaftlicher Zusammenhalt ergänzt das Bild: TikTok-Nutzende zeigen eine höhere Zustimmung zu Verschwörungsmythen – wobei offen bleibt, ob TikTok-Nutzung das erzeugt oder ob entsprechend anfällige Menschen die Plattform bevorzugen. Die FES-Studie Swipe, Like, Vote zeigt zudem, wie sich erfolgreiche Wahlkampfkommunikation auf TikTok von rational-informierenden Botschaften zu emotional-partizipativen Formaten verschoben hat – eine Plattformlogik, die strukturell jenen Akteuren in die Karten spielt, die ohnehin auf Empörung und Feindbilder setzen.

Eine relevante Gegenposition zur algorithmischen Erklärung kommt aus der Otto-Brenner-Stiftung. Eine Studie aus dem November 2024 kommt zu dem Schluss, dass die digitale Performanz der AfD häufig überschätzt werde und stark von medialer Resonanz – also dem Echo in klassischen Medien – abhänge. Diese Position liegt zwar nicht im Widerspruch zu Nocuns Argumentation, aber sie verschiebt die Verantwortlichkeit: Wer rechtsextreme Reichweite verstehen will, muss das Verstärkungsverhalten klassischer Redaktionen mitdenken. Solange Talkshows AfD-TikToks zum Thema machen („Echte Männer…“), brauchen die Algorithmen gar nicht mehr viel zu tun. (Go deep: SMWB)

Auf der ökonomischen Seite bestätigt sich Nocuns Vorwurf, Plattformen handelten gegen besseres Wissen. Die Veröffentlichung der „Facebook Files" durch die Whistleblowerin Frances Haugen im Jahr 2021 hatte erstmals dokumentiert, dass Meta interne Forschung zu radikalisierenden Effekten der eigenen Empfehlungssysteme zurückhielt (NPR). Seither sind weitere interne Dokumente von TikTok und X bekannt geworden, die in dieselbe Richtung weisen (New York Times). Die strukturelle Logik – Aufmerksamkeitsmaximierung durch emotionale Aktivierung – ist nicht reparierbar, ohne das Geschäftsmodell anzufassen. Genau das ist der Punkt, an dem regulatorische Hebel wie der DSA ansetzen müssen, um über reine Transparenzpflichten hinauszukommen.

Be smart

• Krisenkommunikation neu denken. Wer in Krisenzeiten kommuniziert (ob als Sender, Behörde oder Stiftung), sollte den Faktor Kontrollverlust ernst nehmen. Faktenchecks helfen wenig, wenn das Grundgefühl ‚niemand kümmert sich' lautet. In den aktuellen Debatten (Iran, Rente, Klima) kann ich nicht erkennen, dass dies passiert.
• Algorithmische Verantwortung konkret machen. Der DSA verlangt von VLOPs systematische Risikobewertungen ihrer Empfehlungssysteme. Audit-Reports sind aber keine Compliance-Pflicht. Sie sind ein Hebel, wenn man sie ernst nimmt. Wer auf Regulierungsseite arbeitet, sollte den Druck auf wirksame Nutzer:innenkontrolle (siehe Artikel 38 DSA) erhöhen. Das ist der Hebel, der über reine Transparenz hinausgeht. Zwar setzt der DSA hier nicht auf vollständige Kontrolle durch Nutzende, er verlangt aber immerhin mindestens eine nicht profilbasierte Empfehlungsoption.
• Sprache schärfen, „Fake News“ streichen. Der Begriff ist politisch verbrannt, semantisch beliebig und macht analytische Arbeit schwerer. Wer journalistisch oder wissenschaftlich arbeitet, sollte zwischen Desinformation (intentional), Misinformation (unbeabsichtigt) und Verschwörungsideologie (geschlossenes Weltbild) differenzieren. Diese Unterscheidungen bestimmen, welche Gegenmaßnahmen überhaupt sinnvoll sind. Wer den Begriff „Fake News“ unreflektiert nutzt, übernimmt eine Rahmung, die antidemokratische Akteure strategisch geprägt haben – und schadet damit der eigenen analytischen Glaubwürdigkeit.
• Wissenschaft verteidigen, ohne sie zu instrumentalisieren. Nocuns vielleicht eindringlichste Beobachtung im Gespräch ist, wie selbstverständlich auch Politiker:innen jenseits der AfD mittlerweile Klimaforschende angreifen. Wer in der politischen Kommunikation arbeitet, sollte sich klarmachen: Jeder rhetorische Angriff auf wissenschaftliche Institutionen senkt die Schwelle für autoritäre Akteure, die genau diese Erosion brauchen.
• Den persönlichen Umgang von der gesellschaftlichen Strategie trennen. Wer Familienmitglieder oder Freund:innen im verschwörungsideologischen Milieu hat, sollte nicht erwarten, mit Studien argumentieren zu können. Beratungsstellen wie veritas raten: Nicht über Fakten streiten. Sondern fragen, was die Erzählung bedient — das Gefühl, besonders zu sein? Anschluss? Kontrolle? Diese Strategie ersetzt keine politische oder regulatorische Antwort. Aber sie ist die einzige, die im privaten Umfeld überhaupt funktioniert.

Zwei Fragen entscheiden, was als Nächstes passiert: Setzt die EU-Kommission den DSA auch gegen Plattformen durch, deren CEOs jetzt mit Trump dinieren? Und lernt Politik, in Krisen anders zu kommunizieren als 2020? Die Messlatte ist nicht Reichweite. Die Messlatte ist, ob noch jemand Wissenschaft, Justiz und Medien glaubt.

🗞️ News

Die Phishing-Angriffe auf Politiker:innen werfen die Frage auf, wem eigentlich die Smartphones weggenommen werden sollten. (Netzpolitik)

Die EU-Kommission wirft Meta vor, das selbst in den Nutzungsbedingungen festgelegte Mindestalter von 13 Jahren auf Instagram und Facebook nicht durchzusetzen. (Europäische Kommission)

Norwegen plant bis Jahresende ein Gesetz, das Kindern unter 16 Jahren die Nutzung sozialer Medien verbietet und Tech-Unternehmen für die Altersverifikation verantwortlich macht. (Reuters)

Elon Musk zieht gegen OpenAI vor Gericht (New York Times), weil er die Menschheit retten möchte (The Verge)? Ja, nee, ist klar.

Google schließt einen KI-Vertrag mit dem Pentagon ab (New York Times). Mitarbeiter:innen wären sich mit einer Petition (Washington Post).

Meta muss sich darauf vorbereiten, seine Manus-Übernahme rückgängig zu machen. China möchte, KI-Wissen im eigenen Land wissen. (Wall Street Journal)

Vollzieht Google-Mitgründer Sergey Brin einen politischen Rechtsschwenk oder ist das eine Überinterpretation seiner neuen Partnerschaft mit einer Trump-Anhängerin? Die New York Times meint: Ja!

OpenAI erwägt die Entwicklung eines Smartphones, bei dem KI-Agenten traditionelle Apps ersetzen sollen. (TechCrunch)

Oprah Winfrey wechselt mit ihrem Podcast zu Amazon. (New York Times)

Spotify bietet jetzt auch Fitness-Inhalte. (TechCrunch)

Anthropic stellt neue Funktionen von Claude für kreative Arbeiten vor (Anthropic). Der Begriff Laptop-DJ bekommt dadurch noch einmal eine ganz neue Bedeutung.

Amazon führt KI-gestützte Audio-Q&A auf Produktseiten ein. (TechCrunch)

Google testet eine KI-Chatbot-Suche für YouTube. (The Verge)

Instagram startet seine „neue Instants“-App. Vorerst gibt es den BeReal-Klon aber nur in Italien und Spanien. (Business Insider)

👀 Trends & Beobachtungen

Immer mehr Amerikaner:innen nutzen KI, um sich vor Gericht selbst zu vertreten. Euer Ehren, ChatGPT sagt aber!!! (404 Media)

Ein neues Paper aus dem Google-DeepMind-Lager argumentiert, dass große Sprachmodelle niemals ein Bewusstsein erlangen können. (404 Media)

Laut einer aktuellen Studie werde bereits ein Drittel aller neuen Websites durch KI generiert. Forschende beobachten dabei eine "aggressive Positivität" in den KI-generierten Texten, die das Internet zunehmend überfluten (404 Media).

📌 Bookmarks

The Podcast Where You Can Eavesdrop on the A.I. Elite (New York Times)

Snapchat CEO: Why distribution has become the most important moat: (Lennys Newsletter)

🍿 Nicht mein Job

Meine Tochter (12) hat mich neulich zum ersten Mal ob meiner Internetnutzung so richtig ausgelacht. Der Grund: Ich hatte bei Google eine Frage samt Interpunktion eingetippt.

Papa, was soll denn das Fragezeichen da? Niemand tippt ein Fragezeichen bei Google.

Tja, was soll ich sagen. Ich nutze ja auch ob statt wegen.