Was ist
Das postfaktische Zeitalter hat begonnen. Vier Ereignisse der vergangenen Wochen verdeutlichen das:
- Ein Video zeigt Alex Pretti, der elf Tage vor seinem Tod das Rücklicht eines ICE-Fahrzeugs beschädigt und dann von einem vermummten Mitglied der paramilitärischen Einheit überwältigt wird. Die Aufnahme ist echt. Trotzdem tun sie viele Menschen in sozialen Medien als KI-Fake ab, der den Mord an Pretti rechtfertigen solle.
- Auf Social Media verbreiten sich KI-generierte Bilder und manipulierte Videos, die unter anderem eine Waffe in Prettis Hand zeigen sollen. Obwohl das Material leicht als Fälschung zu erkennen und eindeutig widerlegt ist, verbreiten sich die Aufnahmen – unter tatkräftiger Mithilfe von Stephen Miller.
- Die US-Regierung teilt manipulierte Bilder der Schwarzen Bürgerrechtsanwältin Nekima Levy Armstrong. KI hat ihren stoischen Gesichtsausdruck zu einer grotesken Karikatur verzerrt. „Die Strafverfolgung wird fortgesetzt. Die Memes werden weitergehen“, teilt das Weiße Haus mit.
- In Sachsen veröffentlicht die Gewerkschaft der Polizei eine Pressemitteilung, die einen schwer verletzten Polizeibeamten zeigt. Erst nach öffentlicher Kritik ergänzt die Gewerkschaft die Mitteilung um den Hinweis, dass es sich um ein KI-generiertes Bild handle.
Wir sehen zwei Dynamiken, die einander bestärken:
- Mittlerweile nutzen selbst Regierungen und öffentliche Behörden schamlos generative KI, um die öffentliche Meinung zu beeinflussen oder Lügen zu verbreiten.
- Der allgegenwärtige KI-Slop hat Menschen derart misstrauisch gemacht, dass sie alles als KI-Fälschung abtun, das nicht in ihr Weltbild passt.
Heute erhältst du eine freie Ausgabe in voller Länge. Viel Freude beim Lesen. Falls du künftig immer alle Ausgaben in voller Länge erhalten möchtest, kannst du für zehn Euro im Monat Mitglied werden. Du befindest dich garantiert in guter Gesellschaft.
Warum das wichtig ist
„Das erste Opfer des Krieges ist die Wahrheit“, soll der US-Senator Hiram Johnson während des Zweiten Weltkriegs gesagt haben (das Zitat wird noch weiteren Personen zugeschrieben). Kriegsparteien nutzen Desinformation, Propaganda und Lügen, um die eigene Bevölkerung zu mobilisieren und den Gegner zu diskreditieren.
Das Internet, Social Media und generative KI wirken als Brandbeschleuniger. Plattformen und Messenger haben journalistische Gatekeeper ausgehebelt. Früher hatten seriöse Medien den Anspruch, nur geprüfte Informationen zu veröffentlichen. Jetzt findet jede Lüge ein Publikum, bevor Faktenchecks die Behauptungen widerlegen können.
LLMs und Tools wie Grok, Nano Banana, Sora oder Runway haben die Erstellung von KI-Fakes massentauglich gemacht. Wenn alle Menschen kostenlos und ohne technisches Vorwissen täuschend echte Bilder und Videos erzeugen können, verändert das die öffentliche Meinungsbildung grundlegend.
Einerseits muss man aufhören, seinen Augen und Ohren zu trauen. Andererseits wäre es fatal, wenn Menschen gar nichts mehr glauben.
Im September 2024 schrieben wir über russische Desinformationskampagnen und warnten vor grundsätzlichem Misstrauen (SMWB):
Skepsis ist gut, zu viel Skepsis ist gefährlich. Es gibt Fakten, es gibt Wahrheit. Auch im Zeitalter von Algorithmen, sozialen Medien und russischen Bots.
Rund ein Jahr später, im August 2025, bestätigte sich die Befürchtung, als ein echtes Video von Will Smith als Fälschung bezeichnet wurde. Wir schrieben damals (SMWB):
Generative KI könnte dazu beitragen, dass sich die „Liar’s Dividend“-Dynamik ausweitet und sich Lügen bald auch bei Videos auszahlen . (…)
Je schwerer es wird, Fake und Realität zu unterscheiden, desto leichter wird es, Skandal, Affären oder Kriegsverbrechen als „KI-generiert“ abzutun.
Wie bei allen früheren Formen der Desinformation gilt: Wer an das Narrativ glauben will, wird daran glauben – egal, ob man gefälschte Inhalte für echt oder echte Inhalte für gefälscht hält. Fehlinformationen verfangen dann, wenn sie das eigene Weltbild bestätigen.
Genau das ist geschehen. Kurz darauf sagte Donald Trump (AP):
Falls etwas passiert, das wirklich schlimm ist, muss ich vielleicht einfach KI dafür verantwortlich machen.
Diese Strategie wendet der US-Präsident vollkommen schamlos an. Fakten und Fotos, die ihm ungelegen kommen, bezeichnet er fälschlicherweise als AI – und seine Unterstützerïnnen glauben es natürlich (The Present Age).
Dig deeper
Ursprünglich wollten wir ausführlicher auf die eingangs genannten Fälle eingehen. Allerdings könnten wir dabei nur wiederholen, was Kollegïnnen bereits geleistet haben.
Deshalb haben wir uns entschieden, dass wir es in diesem Briefing bei der knappen Zusammenfassung belassen und lieber die zugrundeliegenden Dynamiken beleuchten.
Falls du mehr zu den KI-Fakes in den USA und Sachsen lesen möchtest, empfehlen wir diese beiden Texte:
- “That's AI” (It Isn’t): Parker Molloy hat einen grandiosen Text über Wahrheit und Lüge im digitalen Zeitalter geschrieben. Die Mischung aus Essay und Analyse zeigt am Beispiel der realen und gefälschten Videos von Alex Pretti, wie die Liar’s Dividend von einer politischen Strategie zu einem gesellschaftlichen Problem geworden ist.
- Was nicht krass ist, wird krass gemacht: In ihrer Spiegel-Kolumne beschreibt Samira El Ouassil die Parallelen zwischen dem US-Heimatschutzministerium und der sächsischen Gewerkschaft der Polizei, die beide KI-generierte Bilder ohne Kennzeichnung veröffentlichten.
Be smart
Studien deuten darauf hin, dass rechtskonservative bis rechtsradikale Kreise anfälliger für Desinformation sind. Das scheint sowohl für die Produktion als auch für die Rezeption zu gelten:
- HKS Misinformation Review: Right and left, partisanship predicts (asymmetric) vulnerability to misinformation
- UC Irvine: Political Polarization Triggers Conservatives’ Misinformation Spread to Attain Ingroup Dominance
- PNAS: Susceptibility to online misinformation: A systematic meta-analysis of demographic and psychological factors
Der Umgang mit KI fordert aber alle Menschen heraus, unabhängig von ihrer politischen Einstellung. Das zeigen die Reaktionen auf das reale Video von Alex Pretti, das von Linken und Liberalen als Fälschung abgetan wurde (Parker Molloy):
Neu ist, dass „das ist KI“ zu einer gesellschaftlich akzeptierten, sogar tugendhaft erscheinenden Art geworden ist, unangenehme Beweise abzutun. Wenn man sagt: „Ich glaube diesem Video nicht, weil es meinem Weltbild widerspricht“, wirkt man engstirnig. Wenn man hingegen sagt: „Ich glaube diesem Video nicht, weil es offensichtlich KI ist“, klingt es so, als sei man ein verantwortungsbewusster Medienkonsument.
Bis zu einem gewissen Grad ist dieses Verhalten menschlich. Der Bestätigungsfehler ist seit einem halben Jahrhundert bekannt und gut erforscht. Wir neigen dazu, Informationen so zu interpretieren, dass sie unsere Erwartungen bestätigen.
Wenn kognitive Verzerrung und generative KI aufeinandertreffen, wird es bedrohlich. Technische Lösungen, wie sie Adam Rose bei Poynter skizziert, sind nur ein Hilfsmittel. Auch die viel beschworene Medienkompetenz wird nicht reichen, um Fakes von authentischen Inhalten zu unterscheiden.
Es braucht nicht mehr Skepsis im Umgang mit digitalen Inhalten, sondern Skepsis im Umgang mit den eigenen Überzeugungen (Parker Molloy):
Wir haben Jahre damit verbracht, Menschen beizubringen, das zu hinterfragen, was sie sehen. Wir haben bei weitem nicht genug Zeit damit verbracht, sie zu lehren, zu hinterfragen, warum sie glauben, was sie glauben.
Politics & Power
- Vorbild Australien: Spanien plant nun auch Social-Media-Verbot für Jugendliche: Spanien plant ein Gesetz, das Kindern und Jugendlichen unter 16 Jahren den Zugang zu sozialen Netzwerken wie Instagram, TikTok oder X verbietet und die Plattformen zu wirksamer Alterskontrolle verpflichtet. Europarechtlich ist das heikel, weil (wie bereits am Dienstag mit Blick auf Frankreichs Vorhaben skizziert) der Digital Services Act eigentlich für einheitliche Standards im digitalen Binnenmarkt sorgen und nationale Alleingänge begrenzen soll. (Tagesschau)
- Ja, dürfen die das denn? Frankreich und Spanien pochen darauf, dass der Schutz Minderjähriger, der Gesundheits- und Jugendschutz sowie die Abwehr psychischer und sozialer Schäden durch exzessive Social-Media-Nutzung Kernaufgaben der Mitgliedstaaten bleiben. Sie könnten ihre Vorhaben als Konkretisierung des EU‑Rahmens darstellen (also nicht als Bruch mit, sondern als Verschärfung im Sinne des DSA) und argumentieren, dass strengere nationale Maßnahmen zulässig sind, solange sie verhältnismäßig sind und den Binnenmarkt nicht unnötig zersplittern. Wenn einfach immer mehr nachziehen, würde es ja auch zu keiner Zersplitterung kommen… (Leibniz-Institut für Medienforschung | Hans-Bredow-Institut)
- Der wahre Grund, warum keiner im Valley gegen Trump aufmuckt: Der Arbeitsmarkt sei aktuell so angespannt, dass sich anders als zu früheren Zeitpunkten niemand im Silicon Valley traue, gegen Donald Trump Stellung zu beziehen. Die unsichere Beschäftigungssituation in der Tech-Branche schwäche die Verhandlungsposition der Angestellten erheblich, sodass viele aus Sorge um ihre Arbeitsplätze auf politische Meinungsäußerungen verzichten, schreibt New York Times.
Attention Economy
- Untergang der Post: Die „Washington Post“ streicht in einem massiven Sparprogramm rund ein Drittel der Belegschaft, darunter mehr als 300 von etwa 800 Journalistïnnen. Am härtesten trifft es die Sport-, Lokal- und Auslandsressorts. Auch das gesamte Video-Team muss wohl gehen. Künftig wolle man sich stärker auf nationale Politik, Wirtschaft und Gesundheit konzentrieren. Für Eigentümer Jeff Bezos wäre eine Rettung der Zeitung leicht möglich, doch viele Beobachterinnen sehen im Kahlschlag ein Signal an Trump, der sich in seinem Feldzug gegen die freie Presse bestätigt fühlen darf. Democracy dies in broad daylight. (New York Times)
- Lesenswert zum Stellenabbau bei der Washington Post:
Ruth Marcus
Laura Hazard Owen
- Alphabet überschreitet 2025 erstmals 400 Milliarden Dollar Jahresumsatz: Allein YouTube steuert über 60 Milliarden Dollar durch Werbung und Abonnements bei. (The Verge)
- X vergibt eine Million Dollar Preisgeld für Content: Jede Plattform bekommt die Sieger, die sie verdient: X hat einen Artikel zu Deloitte als „besten Artikel“ im Januar ausgezeichnet und dessen Autor zum Millionär gemacht. Viele X-Nutzerïnnen sehen darin vermutlich so etwas wie einen echten Journalistenpreis. Tatsächlich ist es aber nicht mehr als ein Marketinginstrument zur Förderung von Creator-Content auf X mit Spielgeld von Musk. Die Liste der Gewinner liest sich wie aus einem Paralleluniversum. (Social Media Today)
- Anthropic verspricht, Claude dauerhaft werbefrei zu halten: Untermauert wird dieses Versprechen mit einer Superbowl-Kampagne, die über ChatGPT herzieht. (Anthropic, YouTube: Video 1, Video 2)
- Welche Rolle kann ChatGPT bei Lokalnachrichten spielen? OpenAI verzeichnet nach eigenen Angaben eine Million Anfragen pro Woche zu lokalen Nachrichten über ChatGPT. Das Unternehmen sieht darin großes Potenzial und kündigt nun einen „anderen Weg“ im Umgang mit Lokaljournalismus an als bisherige Tech-Konzerne (NiemanLab). Das klingt für uns mehr wie eine Drohung.
Trends & Beobachtungen
- ChatGPT büßt Vorsprung ein: Laut Zahlen von Apptopia sank ChatGPTs Anteil unter US-Mobilnutzerïnnen von 69,1 % im Januar 2025 auf 45,3 % ein Jahr später. Googles Gemini legte im selben Zeitraum von 14,7 % auf 25,1 % zu, während X’s Grok von 1,6 % auf 15,2 % sprang. Insgesamt wuchs der Markt um 152 %. Auch beim Web-Traffic schrumpft der Abstand: ChatGPT verzeichnete 5,7 Milliarden Besuche (plus 50 %), Gemini 2 Milliarden (plus 647 %). (Big Technology)
- Was ist nur eigentlich los? Vor nicht allzu langer Zeit, hätte die Nachricht, dass Google in seine Robotaxi-Sparte Waymo stolze 16 Milliarden Dollar steckt, die Tech-Welt in Aufruhr versetzt. Heute ist es gefühlt nur eine Randnotiz. Om Malik sieht darin ein Symptom für die beispiellose Geschwindigkeit und das Ausmaß aktueller Veränderungen in der Tech-Branche und Gesellschaft. (OM)
Neue Features bei den Plattformen
YouTube
- Auto-Dubbing: YouTube verpasst seinem Sync-Tool ein Upgrade: Fortan „spricht“ es 27 Sprachen, es kann den ursprünglichen Tonfall der Creators erfassen und die Lippenbewegungen an die Übersetzung anpassen. (YouTube Blog)
Meta
- Vibes-App: Erinnerst du dich an Metas KI-Video-Feed Vibes? Nein? Doch? Keine Ahnung? Nicht schlimm. Das meiste war ohnehin ziemlicher Slop. Meta aber scheint darin trotzdem eine Zukunft zu sehen und testet daher nun eine eigenständige Vibes-App, losgelöst von Metas AI-App. (Platformer)
Mistral
- Blitzschnelle Übersetzung: Das französische KI-Unternehmen Mistral AI hat mit seinem neuen Modell „Voxtral“ eine ultraschnelle Echtzeit-Übersetzungstechnologie vorgestellt, die als direkte Konkurrenz zu den großen US-amerikanischen KI-Labors positioniert wird. (WIRED)
Wir fassen zweimal pro Woche die Nachrichten und Debatten rund um Social Media, Tech und KI zusammen. Unser Anspruch: Wenn du unser Briefing liest, erfährst du nicht nur alles, was wichtig ist – sondern verstehst es auch.
Garantiert kein Slop, jederzeit kündbar.
