Grenzen für Trump auf Facebook und Twitter, Missbrauch von Überwachungstechnik, Journalismus bei YouTube

Salut und herzlich Willkommen zur 621. Ausgabe des Social Media Briefings. Heute beschäftigen wir uns mit der Frage, welche Grenzen Donald Trump eigentlich auf Twitter und Facebook gesetzt werden. Zudem lernen wir am Beispiel Clearview, dass jede Überwachungstechnik missbraucht werden kann. Dystopische Grüße, Martin & Simon

Trump lotet die Grenzen von Facebook und Twitter aus

Was ist: Facebook hat mehr als 1000 grob irreführende Anzeigen der Trump-Kampagne gelöscht. Twitter hat ein Video, das der US-Präsident weiterverbreitet hatte, als manipuliert gekennzeichnet.

Warum das wichtig ist:

• Beide Vorkommnisse sind Premieren: Zum ersten Mal entfernt Facebook Werbung von Trump, weil sie Desinformation enthält. Zum ersten Mal setzt Twitter seine „Richtlinie zu synthetischen und manipulierten Medien“ um.

• Bislang hatte das Silicon Valley Trump wie ein rohes Ei behandelt – auch, weil führende Republikaner einen liberalen Bias in der Tech-Branche wittern und behaupten, von den Tech-Konzernen systematisch benachteiligt zu werden. Wer sich anschaut, welche Medien und Politikerïnnen die größte Reichweite in sozialen Medien haben, kann diesen Vorwurf nicht ernst nehmen.

• Die beiden Entscheidungen zeigen, dass sich selbst Facebook und Twitter nicht alles bieten lassen. Trump hat mit Angriffen und Pöbeleien immer wieder getestet, ob er sich alles erlauben kann. Jetzt ist klar: Auch für den US-Präsidenten und sein Wahlkampfteam gibt es (sehr großzügige) Grenzen.

Wie Facebook reagiert hat

• Am vergangenen Donnerstag weist der US-Journalist Judd Legum in seinem Newsletter Popular Information darauf hin, dass Facebook irreführende Werbung der Trump-Kampagne erlaubt.

• Die mehr als 1000 Anzeigen fordern Nutzerïnnen auf, sich für den US-Zensus 2020 zu registrieren. Wer klickt, landet auf einer Trump-Webseite, übermittelt seine Daten und soll am Ende auch noch für den Wahlkampf des US-Präsidenten spenden.

• Das ist ein klarer Verstoß gegen Facebooks eigene Regeln: Im Dezember hatte das Unternehmen angekündigt, irreführende Informationen zum Zensus zu löschen.

• Dennoch weigert sich Facebook zunächst, die Anzeigen zu löschen. Angeblich gehe eindeutig daraus hervor, dass es sich nicht um den offiziellen Zensus handle.

• Etliche Medien berichten, demokratische Politikerïnnen protestieren, Expertïnnen kritisieren die Entscheidung, Nancy Pelosi wirft Facebook finanzielle Motive vor.

• Sieben Stunden nach der Veröffentlichung überlegt es sich Facebook doch anders und löscht die Anzeigen.

Wie Twitter reagiert hat

• Am Sonntag teilt Dan Scavino, der die Social-Media-Kanäle des Weißen Hauses betreut, ein Video von Joe Biden und schreibt dazu: „Sleepy Joe in St. Louis, Missouri today: ‚We can only re-elect @realDonaldTrump.'“

• Tatsächlich sagt Biden im Video diesen Satz, doch das Zitat ist sinnentstellend verkürzt. Vollständig geht die Aussage so: „We can only re-elect Donald Trump if we get engaged in this circular firing squad here.“

• Biden fordert also nicht dazu auf, Trump wiederzuwählen, sondern warnt die Demokraten, sich selbst zu zerfleischen.

• Kurz darauf retweetet Trump das Video und macht seine mehr als 73 Millionen Followerïnnen darauf aufmerksam. Millionen Menschen sehen es an.

• Twitter entscheidet, das Video nicht zu löschen, versieht es aber mit einem Warnhinweis. Wenn der Tweet in der Timeline auftaucht, wird der Clip als „Manipulated Media“ gekennzeichnet.

• Bislang sieht man den Hinweis nur im Stream (Twitter / Cat Zakrzewski) . Wer den Tweet direkt aufruft, bekommt keine Warnung. Twitter sagt, es handle sich um einen technischen Fehler, und man arbeite daran, das Darstellungsproblem zu beheben.

• Mittlerweile kennzeichnet auch Facebook das Video (Facebook / DanScavino) als „Teilweise falsch“ und verweist auf einen Faktencheck der Partnerorganisation Lead Stories.

Be smart: Neben der gar nicht mal so selbstverständlichen Erkenntnis, dass selbst Facebooks Nachsicht mit Trump Grenzen hat, wirft die vorsichtige Maßregelung einige Fragen auf:

• Judd Legum hat in den vergangenen Monaten immer wieder Versäumnisse und Fehltritte von Facebook aufgedeckt. Warum braucht ein Milliardenunternehmen, das Content-Moderatorïnnen und Faktenprüferïnnen bezahlt, ständig Nachhilfe von einem einzelnen Journalisten, der unabhängig recherchiert?

• Anfang des Jahres hat Facebook verkündet, manipulierte Medieninhalte zu löschen, wenn diese den Eindruck erwecken, eine Person sage Dinge, die sie nicht gesagt habe. Fällt das Biden-Video nicht genau in diese Kategorie?

• Bislang ist unklar, ob Warnhinweise helfen. Einige Studien zeigen gegenteilige Effekte (siehe The Implied Truth Effect bei Researchgate): Nutzerïnnen vertrauten dann grundsätzlich allen Inhalten, die nicht gekennzeichnet sind – selbst grobem Unfug. Gibt es einen besseren Umgang mit eindeutig irreführenden Inhalten, die Plattformen nicht löschen wollen?

• Wenn Facebooks Factchecker Inhalte als falsch oder teilweise falsch einstufen, drosselt der Algorithmus die Verbreitung. Facebook sagt, die Reichweite werde dadurch drastisch eingeschränkt. Das Biden-Video wurde auch auf Facebook eine Million Mal abgespielt, 25.000 Mal geteilt und tausendfach kommentiert. Wann wird Facebook unabhängigen Wissenschaftlerïnnen ermöglichen, die angeblichen Erfolge im Kampf gegen Desinformation zu überprüfen, indem es in solchen Fällen Daten teilt, die die Verbreitung nachvollziehbar machen?

• Die beiden Vorfälle geben einen Vorgeschmack auf die kommenden Monate: Bis zur US-Wahl 2020 werden sozialen Medien mit Propaganda und Desinformation geflutet werden – die diesmal nicht nur aus Russland kommt, sondern vom US-Präsidenten selbst. Werden die Plattformen ihre Linie beibehalten, wenn die ungerechtfertigten Zensurvorwürfe aus dem Weißen Haus lauter werden und die Hälfte der US-Bevölkerung eher Trump glaubt als den Fakten?

• Das Biden-Video ist kein aufwändig manipulierter Deepfake, es ist nicht mal stark bearbeitet wie etwa der verlangsamte Pelosi-Clip, der die Politikerin wie im Vollrausch wirken ließ. Dieses Video löschte und kennzeichnete Facebook nicht (SZ). Kann es sein, dass im Vorfeld der US-Wahl eher billige Fakes als aufwändige Hightech-Fälschungen kursieren werden?

Autor: Simon Hurtz

Clearview zeigt: Jede Überwachungstechnik wird missbraucht

Was ist: Das dubiose Start-up Clearview sagt: Nur Strafverfolgungsbehörden und ausgewählte Sicherheitsexpertïnnen dürfen unsere gewaltige Datenbank nach gespeicherten Gesichtern durchsuchen. Das ist eine Lüge.

Warum das wichtig ist: Der Vorfall macht erneut klar, dass es unmöglich ist, Technik und Infrastruktur zu entwickeln, die Massenüberwachung ermöglicht, ohne dass diese früher oder später missbraucht wird.

Normalerweise dauert es allerdings eine Weile, bis kriminelle Hackerïnnen Daten erbeuten oder mächtige Exploits auf dem Schwarzmarkt angeboten werden. Im Fall von Clearview war das gar nicht nötig, weil das Unternehmen offenbar selbst keine Skrupel kennt und alles zu Geld macht, was nicht bei drei Datenschutzgrundverordnung buchstabiert hat.

Zur Erinnerung: Clearview ist ein Start-up, das bis Januar niemand kannte. Dann titelte die New York Times: „Das geheime Unternehmen, das die Privatsphäre, wie wir sie kennen, beenden könnte„. Diese Überschrift ist reißerisch, das Vorgehen von Clearview kann einem aber tatsächlich Angst machen.

Angeblich hat Clearview eine Datenbank mit drei Milliarden Fotos aufgebaut, die es aus öffentlich zugänglichen Quellen abgesaugt hat. Ermittlerïnnen sollen darin nach Gesichtern suchen können, um Verdächtige zu identifizieren. In Briefing #607 haben wir uns ausführlich mit Clearview beschäftigt, fünf Newsletter-Ausgaben später gab es noch ein kleineres Follow-up.

Was Clearview macht: Neben Tausenden Behörden und Organisationen greifen auch etliche Privatleute auf die Datenbank zu (NYT): Investorïnnen, Geschäftspartnerïnnen und Freundïnnen des Gründers. Sie verwendeten die App, um Dates nachzuspionieren, auf Partys anzugeben oder banale Straftaten aufzuklären.

Ein Beispiel: Der Geschäftsmann John Catsimatidis, Eigentümer der Lebensmittelkette Gristedes, identifizierte mit der Clearview-App binnen Sekunden einen ihm unbekannten Mann, den er in Begleitung seiner Tochter sah. Zudem nutzte er die Technik, um Ladendiebe in einer seiner Filialen zu überführen – die Eiscreme im Wert von ein paar US-Dollar mitgehen ließen. Zitat des Milliardärs: „Sie klauten unser Häagen Dazs. Es war ein großes Problem.“

In seinem Blog schreibt Clearview: „Unsere investigativen Werkzeuge haben Strafverfolgern geholfen, Tausende schwere Verbrechen aufzuklären, darunter Mord, sexueller Missbrauch, häusliche Gewalt und Fälle von Kindesmissbrauch.“ Bitte ergänzen: „sowie Eiscremediebstahl“

Was über Clearview bekannt ist: Das Start-up hat jahrelang im Verborgenen agiert und sich um Geheimhaltung bemüht. Doch in den vergangenen Wochen haben Reporterïnnen kontinuierlich recherchiert und vieles aufgedeckt, das Gründer Hoan Ton-That wohl lieber verschwiegen hätte:

• Entgegen seiner eigenen Behauptung bietet Clearview seine Dienste nicht nur in den USA und Kanada an, sondern wollte global expandieren (BuzzFeed). Unter anderem knüpfte das Unternehmen Kontakte zu autokratischen Regimen wie Saudi-Arabien und den Vereinigten Arabischen Emiraten.

• Zu den mehr als 2200 Kunden zählen zahlreiche private Unternehmen und Organisationen (BuzzFeed), die eindeutig nichts mit Sicherheit oder Strafverfolgung zu tun haben, darunter die NBA, der Madison Square Garden, Walmart, Eventbrite, Equinox und Coinbase.

• Eine Analyse der Android-App offenbart (Gizmodo), dass Clearview mit dem Unternehmen Vuzix zusammenarbeiten wollte, das auf Augmented Reality spezialisiert ist. Damit könnte Clearview Brillen anbieten, die in Echtzeit Menschen identifizieren, die sich im Sichtfeld des Trägers befinden.

• Eine mittlerweile deaktivierte Webseite (Archive.org) zeugt davon, dass Clearview auch Überwachungskameras entwickelte (BuzzFeed), die das Unternehmen als „smarteste Sicherheitskamera der Welt“ pries.

• „Sicherheit ist Clearviews oberste Priorität“, behauptete das Unternehmen – dummerweise nachdem es sich seine Kundenliste stehlen ließ (Daily Beast). Datenpannen seien nun einmal „Teil des Lebens im 21. Jahrhundert“, beschwichtigte ein Anwalt.

• Offenbar geht Clearview also selbst davon aus, das Leaks unumgänglich sind. Trotzdem will es den angeblich drei Milliarden Fotos in seiner Datenbank auch noch sämtliche Fahndungsfotos hinzufügen (Medium / OneZero), die in den vergangenen 15 Jahren in den USA aufgenommen wurden.

• Auch Interpol soll Clearviews Dienste ausprobiert haben (Netzpolitik).

Be smart: Alles, was bislang über Clearview bekannt ist, zeichnet das Bild eines unangenehmen bis gefährlichen Unternehmens. Genau wie bei Cambridge Analytica wäre es aber Unsinn, sich nur auf dieses eine Beispiel zu konzentrieren.

Vermutlich gibt es mehrere Firmen, die ähnlich agieren – etwa NEC, das in mehr als 70 Ländern aktiv sein soll (Medium / OneZero), oder Wolfcom, das Bodycams mit Technik zur Gesichtserkennung ausstattet (Medium / OneZero).

Das grundsätzliche, strukturelle Problem heißt nicht Clearview. Es geht um Massenüberwachung und automatisierte Gesichtserkennung, für die es Regulierung und klare Grenzen braucht.

Autor: Simon Hurtz

Social Media & Journalismus

Journalismus bei YouTube

Der deutsche Blick auf soziale Medien ist häufig vom Gefühl geprägt, dass Plattformen wie Facebook und YouTube vor allem „nice to have“ sind. In anderen Ländern – vor allem in jenen, in denen es keine freie Presse gibt, Meinungsfreiheit eingeschränkt wird und regierungskritische Stimmen verfolgt werden – sieht das ganz anders aus. Bloomberg berichtet über Journalisten-Kollegïnnen in Pakistan, für die YouTube das Mittel der Wahl ist, um sich Gehör zu verschaffen. ✊🏻

Streaming Wars

Resso in Indien gestartet

Im Dezember hatten wir das erste Mal über Resso berichtet – nun ist der Spotify-Herausforderer aus dem Hause ByteDance offiziell in Indien gestartet (Techcrunch). Warum das eine Meldung wert ist? Nun ja, Resso bietet spannende Funktionen, die wir womöglich bei Spotify auch bald sehen könnten – etwa:

• Nutzerïnnen können direkt unter einem Song Kommentare verfassen.
• Nutzerïnnen sehen die Real-Time-Lyrics zu jedem Song – dauerhafter Karaoke-Modus sozusagen.
• Nutzerïnnen können aus den Songs Gifs und Videos produzieren – also ganz im TikTok-schen Stil.

Follow the money

TikTok Creator Marketplace

Speaking of ByteDance: TikTok hat jetzt einen offiziellen Creator Marketplace gelauncht, um Kunden mit Influencern zu matchen. Facebook for Creators bietet mit dem Brand Collabs Manager ein ähnliches Tool, damit Kreative leichter für bezahlte Partnerschaften gefunden werden können. Interessant, wie die Plattformen mittels Datenanalyse Agentur-Jobs vernichten. Oder sehen wir das falsch? Rückmeldung erwünscht! 📨

Neue Features

Facebook

• Neues Menü: Alles neu macht der März: Facebook überarbeitet das Menü-Design und macht alles ganz schön blau. (AndroidPolice)

IGTV

• Reaction Videos: IGTV testet die Funktion, Antwortvideos locker-leicht posten zu können (twitter /wongmjane). Bei TikTok und YouTube sind solche Videos derzeit maximal angesagt. Kein Wunder, dass IGTV da ins Grübeln gerät.