TikTok zensiert in Deutschland mit geheimen Filterlisten

Was ist

Eine Recherche von NDR, WDR und Tagesschau deckt auf, dass TikTok Shadowbanning betreibt. Die Plattform unterdrückt in Deutschland Kommentare, die bestimmte Begriffe enthalten. Wer den Kommentar verfasst, sieht ihn noch – für alle anderen Nutzerïnnen wird er verborgen, ohne dass die Absenderïnnen es bemerken.

Warum das Vorgehen problematisch ist

Diese Form der Moderation von Inhalten ist nicht per se verwerflich. Bei TikTok kommen aber mehrere Probleme zusammen:

1. Das Shadowbanning war komplett intransparent. Weder in Community-Guidelines noch in Transparenzberichten findet sich ein Hinweis, dass manche Kommentare ausgeblendet werden. Nutzerïnnen konnten nicht wissen, dass diese Maßnahme theoretisch angewandt werden kann.
2. Die Liste der gefilterten Wörter befremdet. Darunter sind Begriffe wie "LGBTQ", "queer" oder "Peng Shuai" – der Name der Tennisspielerin, die einen chinesischen Funktionär des sexuellen Missbrauchs beschuldigte und dann wochenlang verschwand (DLF). Das lässt zumindest den Verdacht aufkommen, dass der chinesische Mutterkonzern ByteDance entgegen aller Beteuerungen auch in Deutschland ein bis drei Wörtchen mitredet. (TikTok führt einen bedauerlichen Irrtum ins Feld, auf die vollständige Erklärung gehen wir weiter unten ein.)
3. Tobias Henning, Deutschlandchef von TikTok, betont bei jeder Gelegenheit, er sei "als schwuler Mann stolz darauf, wie aktiv die LGBTQ-Community auf TikTok ist". Tatsächlich tauschen sich auf TikTok viele queere Menschen aus und erfahren dort eher Bestärkung als Diskriminierung. Wenn TikTok aber gleichzeitig Kommentare blockiert, die Wörter wie "gay", "homophob" oder "schwul" enthalten, stellt das eine krasse Text-Taten-Schere dar.
4. Der Vorfall reiht sich ein in eine wachsende Liste mit Missgeschicken, Peinlichkeiten und nachgewiesenen Zensurmaßnahmen. Einmal ist kein Mal, zweimal ist Zufall, dreimal ist ein Muster. Bei TikTok muss man schon beide Augen kräftig zudrücken, um kein Muster zu erkennen.

Was die Recherche im Detail enthüllt

• Die Tagesschau ist eher zufällig auf das Thema gestoßen. Das Social-Team der Tagesschau hatte beobachtet, dass einige der Kommentare des Accounts offenbar nicht bei anderen Nutzerïnnen ankamen.
• Daraufhin begann das Investigativressort eine größere Analyse und prüfte rund 100 Wörter und Wortkombinationen.
• Mindestens 19 Begriffe führten dazu, dass Kommentare mit einem Shadowban versehen wurden. Sie lassen sich grob in unterschiedliche Kategorien einteilen.
• LGBTQ: gay, Heterosexuelle, homo, homophob, homosexuell, LGBTQ, LGBTQI, queer, schwul
• Sexualität: Porno, Pornografie, Prostitution, Sex, Sexarbeit
• Nazi-Bezug: Auschwitz, Nationalsozialismus
• WTF? Peng Shuai, Sklaven, Terroristen
• Einige Begriffe führten nur in einem Teil der Fälle zu einem Shadowban, etwa "Exilregierung" oder "transsexuell".
• Friederike Kaltheuner von Humans Right Watch sagte der Tagesschau: "Das Moderieren von bestimmten Schlagwörtern ohne klare Regeln erscheint willkürlich. Es ist hochproblematisch, dass man als Nutzerïn nicht versteht, was die eigentlichen Regeln sind".
• Die Reporterïnnen sprachen auch mit dem TikToker Maximilian Pichlmeier, der viele Videos zur LGBTQ-Community erstellt. Auch er hält das Vorgehen für bedenklich: "Das ist natürlich schwierig, wenn man sagt, man will Aufklärungsarbeit über Pornokonsum betreiben oder Aufklärungsarbeit übers Coming-out, da gehört der Begriff schwul selbstverständlich dazu."

Wie TikTok reagiert

• TikTok hat einen Teil der Begriffe von der Filterliste genommen. Derzeit führen noch elf der 19 Begriffe zu einem Shadowban.
• Das öffentliche Statement ist dünn. TikTok teilt uns mit: "Wir wollen ein inklusives Umfeld fördern, in dem sich Menschen sicher fühlen und authentisch sein können. Das bedeutet, dass wir gegen hasserfülltes Verhalten vorgehen und gleichzeitig die Gegenrede schützen."
• In diesem Fall sei es "eindeutig nicht gelungen, unsere Schutzmaßnahmen angemessen differenziert umzusetzen, und wir führen derzeit eine gründliche Überprüfung durch, um diesen und potenziell ähnliche Fehler zu korrigieren."
• Am Telefon erzählt eine Sprecherin etwas mehr. Der Großteil des Hintergrundgesprächs ist nicht zitierfähig. Wir müssen uns deshalb auf einige Eckpunkte beschränken.
• Die Begriffe wurden blockiert, weil sie angeblich mehrheitlich in negativem Kontext verwendet wurden. Die Absicht sei eine gute gewesen, die Umsetzung gehe aber gar nicht. Es sei der Versuch, der Masse an Kommentaren Herr zu werden.
• Der Name Peng Shuai landete angeblich auf der Filterliste, weil er das Wort "Hua" enthalte – das Schimpfwort "Hure" in österreichischer Mundart. Demnach wird der Begriff schon seit mehr als einem halben Jahr blockiert und hängt nicht mit den aktuellen, politisch aufgeladenen Ereignissen zusammen.
• Die Einschränkung habe sich nur auf den deutschen Sprachraum bezogen. Man habe eine Menge relevanter und informativer Inhalte über die Tennisspielerin auf der Plattform.

Welche Fragen offen bleiben

• Wie viele und welche Begriffe verhindern, dass Kommentare öffentlich angezeigt werden?
• Warum wurde das Shadowbanning nirgendwo kommuniziert? TikTok verweist auf Nachfrage zwar auf den jüngsten Transparenzbericht, dort haben wir aber keinen Hinweis entdeckt.
• Warum waren Ausdrücke wie LGBTQ oder queer, die weder anstößig noch sexuell konnotiert sind, ebenfalls vom Shadowbanning betroffen?
• Wie konnte es passieren, dass der Begriff "Exilregierung" teilweise blockiert wurde? Hat das etwas mit Tibet zu tun?
• Wie passt das zusammen mit TikToks öffentlichem Engagement für die LGBTQ-Community?
• Die Tagesschau zitiert TikTok: "Wir haben Mechanismen eingerichtet, um potenziell schädliche Kommentare automatisiert herauszufiltern." Welche Mechanismen sind das?
• TikTok will eine "gründliche Überprüfung" starten, "um diesen und potenziell ähnliche Fehler zu korrigieren". Um welche potenziell ähnlichen Fehler handelt es sich?

Be smart

• September 2019: Der Guardian deckt auf, dass TikTok aktiv und auf Druck der chinesischen Regierung zensiert. Unter anderem sind Posts betroffen, die das Tian'anmen-Massaker erwähnen oder die Unabhängigkeit von Tibet fordern. In vielen Regionen werden auch LGBTQ-Inhalte entfernt (Guardian).
• September 2019: Die Proteste in Hongkong bleiben auf TikTok nahezu unsichtbar (Washington Post), offenbar drosselt die Plattform entsprechend Inhalte und Hashtags.
• November 2019: Recherchen von Netzpolitik zeigen, dass TikTok bestimmte politische Inhalte drosselt, unterdrückt und zensiert.
• September 2020: Ein Forscherteam des Australian Strategic Policy Institute entdeckt, dass TikTok Hashtags zu LGBTQ-Themen in mindestens acht Sprachen versteckt.
• Februar 2022: Netzpolitik legt nach, diesmal geht es um automatisch generierte Untertitel. Begriffe wie "Arbeitslager", "Rassismus" oder "Prostitution" werden mit Sternchen versehen – angeblich, weil sie die englischsprachigen Schimpfwörter "slag", "ass" und "tit" beinhalten.
• März 2022: Der Tagesschau fällt auf, dass rund 20 Begriffe dazu führen, dass Kommentare mit einem Shadowban versehen werden.

Diese kurze Timeline haben wir nur schnell aus dem Gedächtnis aufgeschrieben. Sie ist unvollständig und beschränkt sich auf Zensurvorwürfe. Mit TikToks Schattenseiten bei Themen wie Datenschutz, IT-Sicherheit, Algorithmus, Desinformation, mentaler Gesundheit und Verbindungen nach China ließe sich ein ganzer Newsletter füllen.

Lange Zeit antwortete TikTok nach solchen Pannen und Skandalen: Wir sind ja noch jung, wir müssen noch lernen. Eine gute Erklärung war das noch nie. Schließlich verdiente TikTok auch damals schon viele Millionen und hätte am unrühmlichen Beispiel von Facebook lernen müssen, dass "Move fast and break things" kein gutes Motto für eine Plattform ist, die Hunderte Millionen Menschen vernetzt und gesellschaftliche Verantwortung hat.

2022 scheint TikTok sein Playbook geändert zu haben. Die Inszenierung als sympathischer Underdog funktioniert nicht mehr. Jetzt heißt es: "Wir haben Mechanismen eingerichtet, um potenziell schädliche Kommentare automatisiert herauszufiltern. Wir sind uns darüber im Klaren, dass dieses Vorgehen in diesem Fall nicht zielgerichtet genug war, und wir arbeiten mit Hochdruck daran, unser Vorgehen zu überarbeiten."

Wir haben das einmal zu oft gehört und halten es deshalb mit Faust: Die Botschaft hören wir wohl, allein uns fehlt der Glaube.

Instagram führt einen chronologischen Feed ein

Was ist

• Die Instagram-Apps für iOS und Android bekommen zwei neue Möglichkeiten, wie sich Posts in der Timeline sortieren lassen (Instagram-Blog).
• Die Option "Following" zeigt die Beiträge aller Menschen, denen man folgt, und sortiert sie strikt chronologisch. Wer "Favorites" auswählt, sieht Fotos und Videos von Nutzerïnnen, die als enge Freundïnnen markiert wurden. Diese Inhalte sind ebenfalls chronologisch geordnet.

Warum macht Instagram das?

• Instagram-Chef Adam Mosseri hatte Ende 2021 bei einer Anhörung im US-Senat versprochen (TechCrunch): "We believe in more transparency and accountability and we believe in more control. That’s why we’re currently working on a version of a chronological feed that we hope to launch next year."
• Die Umsetzung dürfte auch auf politischen und regulatorischen Druck erfolgen. In den USA und Europa sind Algorithmen in Verruf geraten und werden wahlweise für Polarisierung, Radikalisierung, versteckte Zensur oder das Suchtpotenzial sozialer Medien verantwortlich gemacht.

2022 hat kaum jemand Bock auf einen chronologischen Feed

• Die Realität ist etwas komplexer. Bei A/B-Tests mit kleinen Gruppen von Nutzerïnnen bevorzugt die überwältigende Mehrheit die algorithmisch sortierte Timeline.
• Wenn die Inhalte in der Timeline chronologisch sortiert werden, verbringen sie weniger Zeit mit der App, teilen weniger Inhalte und schreiben weniger Kommentare. Gleichzeitig steigt der Anteil unseriöser und unerwünschter Inhalte, die sie sehen. Ausführlicher beschrieben wir diesen Effekt auf Grundlage geleakter Facebook-Dokumente in Ausgabe #759.
• Wir bezweifeln, dass allzu viele Menschen die chronologische Timeline regelmäßig nutzen werden. Sie lässt sich nicht als Standard einstellen, die breite Masse dürfte mit ihrem algorithmischen Feed zufrieden sein.

Be smart

• Trotzdem ist es sinnvoll, dass Instagram endlich auch eine Möglichkeit anbietet, alle Inhalte chronologisch zu sortieren. Mehr Kontrolle schadet nie, und selbst wenn nur ein Prozent der Nutzerïnnen davon Gebrauch macht, sind das 20 Millionen Menschen, die davon profitieren.
• Noch besser wäre es, wenn Nutzerïnnen die Funktionsweise der Algorithmen beeinflussen und nach ihren Bedürfnissen anpassen könnten: "Heute bitte nur Fotos, die gute Laune machen" oder "Ich habe Lust auf Kontroverse, zeig mir Inhalte, die nicht meiner Meinung entsprechen" wären Optionen, bei denen maschinelles Lernen wirklich nützlich sein könnte.

Follow the money

• Snap kauft ein Startup, das Gedanken lesen kann: Das Pariser Startup NextMind hat sich ein Stirnband ausgedacht, das Nutzerïnnen mittels Gedanken Aktionen an einem Computer auslösen lässt. Snap ist aber nicht so sehr am Stirnband selbst interessiert. Vielmehr soll das Team von NextMind künftig an AR-Features tüfteln.
• Abo aufs iPhone: Nachdem man Software nun schon seit einigen Jahren in der Regel nicht mehr einmalig erwirbt, sondern im Abo bezieht, könnte sich dieses Geschäftsmodell demnächst auch bei Hardware durchsetzen. Jedenfalls arbeitet Apple hinter den Kulissen eifrig an Plänen, um ein Abo auf Hardware anzubieten (Bloomberg).
• Tweetdeck könnte bald etwas kosten: Es sieht so aus, als könnte der Twitter-Client Tweetdeck demnächst Teil des Paid-Angebots Twitter Blue werden (Techcrunch). Das hätte zur Folge, dass die Nutzung von Tweetdeck dann nur noch zahlenden Twitter-Kunden vorbehalten wäre. Im Abo versteht sich…
  

Creator Economy

• Reels-Creator werden zu den Oscars eingeladen: Während TikTok bei den Filmfestspielen in Cannes mitmischte, darf sich Meta über eine Einladung zu den Oscars freuen. The Hollywood Reporter berichtet, dass ein Dutzend Reels-Creator Zugang zur Zeremonie erhalten, um Inhalte für Facebook und Instagram zu erstellen. Wer da wem Geld bezahlt hat, ist nicht ganz ersichtlich. Der kulturelle Impact der Creator-Szene wird dadurch aber so oder so unterstrichen.

Audio / Video

• Reddit testet TikTok-Features: Reddit versucht ja bereits seit geraumer Zeit, sich ebenfalls zu einer Destination für Video-Inhalte zu wandeln. Das funktioniert bislang nur schleppend. Daher denkt das Unternehmen aktuell darüber nach, welche Features wohl am meisten Engagement bringen könnten. So wie es aussieht, sind die Reddit-Macher bei den Duett- und Stitch-Funktionen gelandet, die wir bereits von TikTok (und Instagram, sort of) kennen. Ob und wann diese Features implementiert werden, ist noch unklar. Es zeigt aber, dass sich alle Plattformen immer stärker annähern und am Ende die Inhalte den Unterschied machen.
• Spotify integriert eigenes Social-Audio-Angebot: Erinnert ihr euch noch an den Hype um Clubhouse? Ist ja gerade einmal ein Jahr her. Und doch fühlt es sich schon an wie eine halbe Ewigkeit. Spotify hatte damals auch eine Social-Audio-App aufgekauft und die Technik dahinter in ein eigenes Angebot überführt. Die App mit dem Namen Greenroom nutzt allerdings kaum jemand (The Information $). Daher werden die Funktionalitäten nun doch in die eigentliche Spotify-App integriert (Bloomberg).

Schon einmal im Briefing gehört

• BuzzFeed warnt vor geringerer Facebook-Nutzung: BuzzFeed hat seine Quartalszahlen vorgelegt. Die sollen uns hier nur am Rande interessieren. Vielmehr geht es darum, was BuzzFeeds Finanzchefin Investoren in diesem Zusammenhang mitteilte: Sie warnte explizit, dass Menschen immer weniger Zeit auf Facebook verbringen würden (CNBC). Sie hätten dies bereits im letzten Quartal gesehen. Der Trend würde sich aus ihrer Sicht auch in den kommenden Monaten fortsetzen. Da BuzzFeed erheblich auf Traffic aus den sozialen Medien angewiesen ist, plant das Unternehmen nun, sich noch breiter aufzustellen. Zwar sei Facebook noch mit Abstand die wichtigste Traffic-Quelle für BuzzFeed. Darauf verlassen könne man sich aber nicht mehr.

Neue Features bei den Plattformen

Twitter

• Direktnachrichten durchsuchen: Es hat lange gedauert, jetzt ist der Tag gekommen: Twitter-User können endlich ihre DM nach Stichwörtern durchsuchen (Twitter Support). Es ist uns schleierhaft, wieso Twitter seine Messenger-Funktionalitäten nicht krass ausbaut – so viele Kontakte, mit denen mensch sich gern austauschen würde. Aber weil die DM-Features bei Twitter so crappy sind, wechselt man jedes Mal zu einem anderen Messenger. Nun ja. Eine Suchfunktion ist jedenfalls mehr als willkommen!
• GIFs mit der Kamera aufnehmen: Twitter ermöglicht es iOS-Nutzerïnnen fortan, mit der hauseigenen Kamera-Software GIFs aufzunehmen (The Verge). Leider lassen sich die GIFs noch nicht auf dem Smartphone speichern. Ob das dem Erfinder des Formats gefallen hätte? Ruhe in Frieden, Stephen Wilhite (Giphy).

Zoom

• Bei Twitch streamen: Zoom-Nutzerïnnen konnten ja schon länger via Facebook, Facebook Workplace und YouTube Dritte an ihren Calls und Webinaren teilhaben lassen. Auch war es möglich, über OBS bei Twitch zu streamen. Künftig wird dieser Prozess aber noch einfacher sein: Einfach „Bei Twitch streamen“ auswählen und fertig.

Community

Lecture mit Ann-Katrin Schmitz aka @himbeersahnetorte

• Am Donnerstag, den 7.4., findet unsere nächste Lecture statt. Von 17:00 bis 18:00 Uhr beschäftigen wir uns mit dem Thema „Auf Instagram zur Marke werden“.
• Der Input kommt dieses Mal von Watchblog-Leserin Ann-Katrin Schmitz (aka @himbeersahnetorte bei Instagram)
• Ann-Katrin beschäftigt sich seit Jahren sehr erfolgreich mit der Frage, wie Influencerïnnen und Unternehmen Instagram (und Social Media im Allgemeinen) strategisch sinnvoll nutzen können.
• In ihrem hörenswerten Podcast „Baby got Business“ spricht sie zudem regelmäßig über aktuelle Entwicklungen in Sachen Social Media an der Schnittstelle zu Marketing und Gesellschaft.
• Wir freuen uns wirklich sehr, dass Ann-Katrin im April am Start ist!
• Wenn du auch bei unserem Community-Event dabei sein magst, dann kannst du dich hier dafür anmelden – und zwar mit der E-Mail-Adresse, mit der du auch unseren Newsletter empfängst. Andere Adressen können bei der Anmeldung leider nicht berücksichtigt werden.
• Anmeldeschluss ist der 7.4. – 12:00 Uhr. Zu diesem Zeitpunkt verschicken wir auch den Link zum Call.
• Each one teach one!

Header-Foto von Christian Wiediger