Faktencheck per KI: Wie TrustScored Creatorn zu mehr journalistischer Substanz verhelfen will

Moin! Creator:innen erreichen heute Millionen, stehen aber oft ohne Faktencheck-Abteilung da. Das Berliner Start-up TrustScored will das mit einem KI-Prüfsiegel ändern. Co-Gründerin Malina Wiethaus war dazu bei mir im Podcast zu Gast. Warum mich das Projekt begeistert, mir die Idee eines öffentlichen Gütesiegels in den Plattform-Feeds aber echte Bauchschmerzen bereitet, liest du hier im Newsletter. Das Gespräch mit Malina gibt es in voller Länge ab Freitagnachmittag auf meinem YouTube-Kanal und überall, wo es Podcasts gibt.

Audio-Feed: Mitglieder können auch diesen Beitrag wieder als Podcast-Ausgabe hören – hier findest du deinen personalisierten Audio-Feed.

Was ist

Social Media hat ein strukturelles Problem. Während sich die gesellschaftliche Meinungsbildung und die tägliche Informationsaufnahme auf Videoplattformen und Podcasts verlagern (SMWB / Alles unterm Deckel. Außer KI), hält das journalistische Handwerk mit dieser Dynamik kaum Schritt. Einzelne Creator:innen erreichen zwar ein Millionenpublikum, agieren dabei aber oftmals völlig auf sich allein gestellt: ohne Faktencheck-Abteilung, ohne zweites Augenpaar, ohne Dokumentation, ohne journalistische Ausbildung.

Im November 2024 veröffentlichte die Unesco dazu eine bemerkenswerte Erhebung. Wir schrieben damals (SMWB / Quelle: Hat die Newsfluencerin meines Vertrauens erzählt):

Gerade mal ein Drittel sagt, dass sie Quellen oder Informationen einem kurzen Faktencheck unterziehen, bevor sie posten. Der Rest teilt Inhalte, wenn sie den Absender:innen vertrauen, prüfen nur bei Nachrichten die Fakten oder verbreiten einfach alles ungeprüft, was sie für nützlich oder unterhaltsam halten.

Wenn Creator:innen heute das Verlangen verspüren, etwas verifizieren zu müssen, greifen die meisten vermutlich schlicht zu Chatty, und laufen dann Gefahr, Halbgares mit solider Quellenrecherche zu verwechseln. Dass das nicht nur für ihre Follower:innen, sondern auch für sie selbst Konsequenzen haben kann, zeigt sich immer wieder. Handwerkliche Fehler können durchaus Vertrauens- und Relevanzverlust zur Folge haben.

Genau hier setzt ein Berliner Start-up an: TrustScored will ein digitales Prüfsiegel etablieren, um Creator:innen (und ihre Follower:innen) vor verhängnisvollen Recherchefehlern zu bewahren, bevor der Content online ist.

Co-Founderin Malina Wiethaus trat vor kurzem an mich heran und fragte, was ich von der Idee halte. Daraus entstand ein langes Gespräch für meinen Podcast, der am Freitagnachmittag erscheint (SMWB / Podcast) – und jede Menge Stoff zum Nachdenken.

Denn die Motivation dahinter ist ohne Zweifel ehrenwert. Doch lässt sich publizistische Integrität über automatisierte Labels reparieren? Und übersehen wir bei aller Begeisterung für technische Hilfen (siehe die Diskussionen um Pangram und Co.) womöglich, wie Plattformen wirklich funktionieren?

Was TrustScored macht

Hinter TrustScored steht Co-Founderin Malina Wiethaus, die zuvor unter anderem politische Kommunikation für Annalena Baerbock verantwortete (ihr wisst schon: Das Video, das Annalena Baerbock mit Kaffee in der Hand in New York zeigte). Zudem gehören Co-Founderin Leila Permantier sowie CTO Khalil Hasan zum Team.

Gefördert über das Berliner Startup-Stipendium arbeiten die drei an einer Plattform, die das klassische Korrektorat und Fact-Checking digitalisieren soll.

Der Ablauf ist denkbar niedrigschwellig: Creator:innen laden entweder ihr fertiges Skript oder das fertige Video bzw. Audio hoch. Das System extrahiert daraus jeden einzelnen überprüfbaren Fakt und gleicht diesen mit einer Quellenbasis ab. Statt bloßer Link-Treffer analysiert das Tool auch Zirkelbezüge (etwa wenn fünf Blogs dieselbe ungeprüfte Primärquelle zitieren) und bewertet die Güte der Fundstellen.

Die Auswertung erfolgt in abgestuften Urteilen:

• Verified: Aussage ist durch belastbare Quellen gedeckt.
• Mostly Verified: Weitgehend zutreffend mit leichten Unschärfen.
• Contested: Die Aussage hat Quellen, die wissenschaftliche oder publizistische Gegenrede ist jedoch mindestens ebenso fundiert.
• Misleading: Die Information ist faktisch nicht zwingend falsch, reißt den Sachverhalt aber aus dem Kontext.
• No Evidence: Keine stichhaltigen Nachweise auffindbar.

Während der Produktion signalisiert die Plattform dann konkrete Vorschläge. Am Ende steht ein zweigeteiltes Ergebnis: Ein detaillierter Report samt Quellenverzeichnis und Konfidenzwerten sowie ein visuelles Badge – eine Art Nutri-Score für journalistische Korrektheit, den Creator:innen in ihre Videos oder in ihre Show Notes einbinden können.

Für den Ansatz "Prävention statt Aufräumen" habe ich große Sympathien. Nicht, weil ich Aufräumen nicht mag. Aber herkömmliches Fact-Checking gleicht oft dem Versuch, einen Waldbrand mit Wasserbechern zu löschen. Richtigstellungen erreichen selten dieselbe virale Wucht wie die ursprüngliche Falschmeldung. Die Idee von TrustScored ist es, den Brandherd gar nicht erst entstehen zu lassen. I like.

Was daran heikel ist

Als Werkzeug (quasi eine Art Rechtschreibprüfung für Fakten) ist dagegen kaum etwas einzuwenden. Doch was passiert, wenn so ein System wirklich zu einer Art öffentlichen Gütesiegel wird?

Offiziell betont TrustScored den freiwilligen Charakter des Siegels. Doch existiert in der Aufmerksamkeitsökonomie so etwas wie echte Freiwilligkeit? Wenn sich ein solches Abzeichen bei reichweitenstarken Kanälen erst einmal etabliert, entsteht fast zwangsläufig eine Umkehrung der Beweislast. Inhalte, die auf das Siegel verzichten (sei es aus redaktioneller Unabhängigkeit, Ressourcengründen oder prinzipieller Skepsis gegenüber privaten Zertifizierungsstellen), könnten rasch unter Generalverdacht fallen. Wer kein Label vorweist, wirkt schnell so, als hätte er etwas zu verbergen.

Noch heikler wird es, wenn man die Distributionslogik der Plattformen hinzudenkt: Was passiert, wenn Meta, TikTok oder YouTube beginnen, solche Prüfsignale in ihre Empfehlungsalgorithmen einzuspeisen? Plattformen stehen unter enormem regulatorischem Druck, Desinformation einzudämmen. Ein maschinenlesbares Vertrauenssignal wäre für sie die perfekte Abkürzung. Doch die Folge wäre eine schleichende Depriorisierung unzertifizierter Inhalte.

Müssen unabhängige Stimmen, Nischen-Publisher oder investigative Formate dann befürchten, algorithmisch an den Rand gedrängt zu werden, bloß weil sie sich keinem standardisierten Prüfregime unterwerfen? Statt die Informationslandschaft zu demokratisieren, könnte so ungewollt eine neue Zweiklassengesellschaft entstehen: algorithmisch bevorzugte Musterknaben mit grünem (statt blauem) Haken auf der einen Seite und alle anderen unter permanentem Rechtfertigungsdruck.

Daneben wirft das Vorhaben handfeste praktische Fragen auf, auf die es bislang kaum befriedigende Antworten gibt:

Offene Fragen

• Wer nutzt das Tool überhaupt? Erreicht TrustScored damit nicht primär jene, die ohnehin gewissenhaft arbeiten? Akteure, deren Geschäftsmodell auf kalkulierter Erregung, Halbwahrheiten oder politischer Polarisierung beruht, dürften kaum Interesse daran haben, ihre Thesen freiwillig einem Fakten-Filter zu unterziehen.
• Die Alles-oder-Nichts-Falle: Welche Creator:innen posten schon Videos mit einem mittelmäßigen Badge? Führt das Modell in der Praxis nicht dazu, dass Texte technokratisch glattgeschliffen werden, bis die Software grünes Licht gibt oder das Label bei kritischen Nuancen einfach verschwiegen wird?
• Die Schiedsrichter-Frage: Auch wenn TrustScored betont, nach etablierten internationalen Fact-Checking-Standards vorzugehen: Wie widerstandsfähig ist ein solches System gegen Vorwürfe parteiischer Zensur? In polarisierten Diskursräumen wird jede externe Bewertungsinstanz schnell selbst zum Gegenstand von Kulturkämpfen.
• Die technische Hürde: Solange ein Badge lediglich als simples Bildchen heruntergeladen und ins Video geschnitten wird, stellt sich die Frage nach Missbrauch und Fälschungssicherheit. Fehlt ohne tiefe Verankerung in offenen Authentifizierungsstandards nicht jedes verlässliche Fundament?

Was stiftet Vertrauen?

Die Initiative von TrustScored trifft einen wunden Punkt der redaktionellen Gesellschaft (siehe bpb.de): Sie spiegelt die Hilflosigkeit und Einsamkeit vieler Solo-Creator wider, die unter immensem Zeitdruck arbeiten und das berechtigte Bedürfnis haben, sich handwerklich abzusichern.

Hinter solchen Initiativen steht meist die Prämisse, wir steckten in einer umfassenden Vertrauenskrise, die sich mit mehr geprüften Fakten kitten ließe. Doch die Lage ist differenzierter, wie Simon Berlin im aktuellen Newsletter von (tbd.) darlegt:

Zwar ist das allgemeine Vertrauen in Nachrichten laut Reuters Institute seit 2015 von 60 auf 46 Prozent gefallen. Gleichzeitig zeigt die Mainzer Langzeitstudie Medienvertrauen, dass das Vertrauen bei ‚wirklich wichtigen Dingen‘ (Umwelt, Gesundheit, Skandale) heute sogar stabiler dasteht als vor zehn Jahren.

Die Leute zweifeln oft nicht an den Fakten, sondern daran, dass Medien so tun, als gäbe es keine Grautöne mehr. Simon schreibt dazu:

Für mich ist das wie bei Matheaufgaben in der Schule. In der Grundschule reicht es, eine Zahl hinzuschreiben. Wenn die Fragen komplexer werden, will die Lehrkraft den Rechenweg sehen. Wir Journalisten liefern weiter Ergebnisse ohne Rechercheweg und wundern uns dann über die Note.

Dass Malina Wiethaus und ihr Team nicht angetreten sind, um im Alleingang das Internet zu heilen, macht sie im Gespräch selbst sehr deutlich. Gegen organisierte Desinformationskampagnen sei man ohnehin nicht die Lösung. Es gehe vielmehr um ein pragmatisches Hilfsangebot für Menschen, die guten Willens sind:

Uns geht es eben auch darum, dass man sensibilisiert dafür: Die Informationen, die ich da raushaue, sind entweder vertrauenswürdig oder nicht. (...) Wir sehen, dir ist das wichtig. Hier ist ein Tool, mit dem du es wirklich richtig gut machen kannst.

Und genau da liegt mein Zwiespalt. Ich finde diese Idee im Kern bemerkenswert und gut: Creator:innen etwas zu geben, damit sie handwerklich sauberer arbeiten können. Ein digitales Werkzeug, das im Stillen auf Zirkelschlüsse hinweist, Primärquellen markiert und vor leichtfertigen Schnitzern warnt, ist eine echte Entlastung im Produktionsalltag.

Was mir Bauchschmerzen bereitet, sind die strukturellen Konsequenzen, die ein solches System im Plattform-Ökosystem unweigerlich entfaltet. Sobald aus einer internen Schreibhilfe ein öffentliches Gütesiegel wird, greifen die Verdrängungsmechanismen der Feeds. Ein buntes Badge liefert am Ende genau das, was Simon kritisiert: eine Note ohne Rechenweg, ein binäres Signal für Algorithmen, die Nuancen nicht interessieren.

Dass am Ende Inhalte ohne Prüfplakette ins Abseits geraten und unabhängige Stimmen unter Rechtfertigungsdruck geraten, kann nicht die Lösung sein. Denn während sich ein Siegel mit zwei Klicks auf ein Video montieren lässt, gilt für die publizistische Praxis ein anderes Gesetz: Glaubwürdigkeit lässt sich nicht zertifizieren, man muss sie sich über Jahre erarbeiten. Aber vielleicht werde ich auch einfach langsam zu alt für das Game.

Auf meinem Radar

• Was die Midterm-Wahlen für Big Tech bedeuten, wird sich in den kommenden Wochen konkreter zeigen. Erste lesenswerte Reaktionen findet man bei 404 Media, Transformer, New York Times, Blood in the Machine. Vor allem der Ausbau der KI-Infrastruktur steht dabei im Mittelpunkt. Dass OpenAI seine Datenzentren in "compute campuses" umbenennt (The Verge), wird sie kaum davor retten können, dass ihnen nun ein anderer regulatorischer Druck droht. Oder wie sagt Senator Ed Markey so schön (BBC):

Sie werden neue Wälder anpflanzen müssen für all die Vorladungen, die wir drucken werden.

• Meta beschmeißt ausgewählte YouTuber mit Geld, damit sie ihre Inhalte auch bei IGTV Features posten. Klassischer Move, würde ich sagen. Es ist nicht lange her, da lockte Insta erfolgreiche TikToker ebenfalls mit finanziellen Aufmerksamkeiten auf die Plattform. (Business Insider)
• Google erlebt den ersten grundlegenden Umbruch seines Kerngeschäfts seit Jahrzehnten: Obwohl das Suchvolumen zunimmt, verliert das Umsatzwachstum an Tempo. Der Grund: Nutzer:innen klicken bei KI-gestützten Suchanfragen seltener auf klassische Anzeigen. No shit, Sherlock! Vor dem Hintergrund gigantischer KI-Investitionen von rund 200 Milliarden US-Dollar zweifeln nun Anleger zunehmend an den kurzfristigen Renditen. Am Ende geht es Google noch wie den Verlagen? Google Zero, Money?! (The Verge)

Alle weiteren News findest du hier: socialmediawatchblog.de/radar

Der Social Media Watchblog finanziert sich ausschließlich über seine Mitglieder. Du bist noch kein Mitglied? Hier entlang. Gelegentliches Weiterleiten einzelner Ausgaben an Kolleg:innen oder Freunde ist völlig in Ordnung! Wenn du das Watchblog für dein gesamtes Team oder deine Organisation buchen möchtest (inkl. Gruppenrabatt und zentraler Rechnung), melde dich einfach direkt auf diese Mail.

Danke, dass du unabhängigen Journalismus möglich machst!