Warum die Entscheidung des Facebook Oversight Board größer ist als Donald Trump

Was ist

Fast auf den Tag genau fünf Monate, nachdem Facebook den damaligen US-Präsidenten von seiner Plattform warf, hat das Oversight Board über die Sperre entschieden: Der Bann war grundsätzlich gerechtfertigt, allerdings hat das Board Facebook auch einige knifflige Hausaufgaben mitgegeben.

Warum das wichtig ist

Die Entscheidung hat drei Ebenen, die weitreichende Fragen aufwerfen:

1. Wie geht es weiter mit Trump, der auch ohne politisches Amt noch eine mächtige Figur mit Millionen Unterstützerïnnen darstellt?
2. Wie soll Facebook grundsätzlich mit Regierungschefïnnen umgehen?
3. Wer sollte Facebooks Regeln schreiben und sie auslegen?

In seinen ersten Entscheidungen hatte das Board Facebook mehrfach widersprochen. Der aktuelle Fall war komplex, und die Mitglieder des Boards waren sich nicht komplett einig. Das zeigen auch mehrere abweichende Empfehlungen einer Minderheit des Boards, die in der finalen Entscheidung enthalten sind.

Es war also schwer vorauszusagen, was das Board diesmal sagen würde. Dutzende Journalistïnnen hatten Analysen und Kommentare vorgeschrieben, die sie am Mittwoch um 15 Uhr abfeuern wollten. Dummerweise fiel die Entscheidung anders aus, als sich das die meisten erwartet hatten: Es ist eben kein klares Urteil, sondern ein komplexes, fast 12.000 Zeichen umfassendes Statement – das genauere Betrachtung verdient, als es viele der ersten Reaktionen leisten.

Warum die Entscheidung nötig wurde

Am 6. Januar stürmte ein wütender Mob das US-Kapitol. Trump veröffentlichte mehrere Posts und ein Video, in denen er die Angreiferïnnen verteidigte und Verständnis für sie äußerte. Wir zitieren den Wortlaut, denn er ist wichtig, um sich eine eigene Meinung zu bilden.

In einem Video, das Trump auf Facebook, Instagram, Twitter und YouTube teilte, sagte er:

We had an election that was stolen from us. It was a landslide election, and everyone knows it, especially the other side, but you have to go home now. We have to have peace. We have to have law and order. (…) This was a fraudulent election, but we can't play into the hands of these people. We have to have peace. So go home. We love you. You're very special. You've seen what happens. You see the way others are treated that are so bad and so evil. I know how you feel. But go home and go home in peace.

In einem Posting schrieb Trump:

These are the things and events that happen when a sacred landslide election victory is so unceremoniously viciously stripped away from great patriots who have been badly unfairly treated for so long. Go home with love in peace. Remember this day forever!

Facebook wertete beides als Verstoß gegen seine "Community-Standards on Dangerous Individuals and Organizations" und sperrte Trump zunächst für 24 Stunden. Einen Tag später weitete Facebook die Verbannung "auf unbestimmte Zeit" aus, mindestens aber für zwei Wochen.

14 Tage später, nachdem Joe Biden das Präsidentenamt übernommen hatte, verkündete Facebook, dass es den Fall an das Oversight Board übergeben habe. Das Gremium sollte entscheiden, ob es richtig war, Trumps Accounts auf Facebook und Instagram unbefristet zu sperren. Außerdem erbat sich Facebook Empfehlungen, wie es mit anderen Politikerïnnen umgehen solle, die ebenfalls gegen Community-Standards verstoßen.

Was das Board entschieden hat

Die Entscheidung umfasst mehrere Teilaspekte:

1. War die Sperre gerechtfertigt?

• Die Sperre ist dem Board zufolge begründet. Trumps Posts verstießen demnach tatsächlich gegen die Regeln, die auf Facebook und Instagram für alle Nutzerïnnen gelten.
• Zuschreibungen wie "We love you. You’re very special" oder "great patriots" verharmlosten und unterstützten Menschen, die Gewalt begangen haben. Das ist auf Facebook verboten.
• Trump habe mehrfach die Lüge verbreitet, die Wahl sei gefälscht gewesen, und seine Anhängerïnnen zum Handeln aufgerufen. Zum Zeitpunkt seiner Posts habe ein unmittelbares Risiko für Gewalt bestanden, Trump habe die Stimmung bewusst angeheizt.

2. War die Dauer der Sperre gerechtfertigt?

• Facebooks Community-Standards sehen keine unbefristete Sperrung vor, die gleichzeitig die Möglichkeit offenlässt, das Konto zu einem späteren Zeitpunkt wieder freizuschalten.
• Accounts können entweder temporär für einen klar begrenzten Zeitraum gesperrt oder für immer verbannt werden.
• Bei Trump hat Facebook also eine Zwischenlösung gewählt, die gar nicht vorgesehen ist. Das lässt das Board Facebook nicht durchgehen.
• Mit der vagen und willkürlichen Strafe versuche Facebook, sich vor seine Verantwortung zu drücken, schreibt das Board. Diese Entscheidung stehe nicht im Einklang mit den eigenen Community-Standards.

3. Was muss Facebook tun?

• Das Board will Facebook die Entscheidung nicht abnehmen und verweist sie deshalb an Facebook zurück. Facebook muss die Sperre jetzt neu beurteilen und überlegen, ob es Trump wieder posten lässt oder für immer von der Plattform wirft.
• Dabei soll Facebook die Schwere vergangener Verstöße und vor allem die Gefahr mit einbeziehen, die künftig von Trumps Account ausgehen könne.
• Im Gegensatz zu YouTube, das genau dieselbe Herangehensweise wählte, wird sich Facebook also auf die eine oder andere Art und Weise festlegen müssen.

Was das Board Facebook empfiehlt

Neben der Beurteilung der Sperre fragte Facebook das Board nach Policy-Empfehlungen. Dieser Bitte ist das Gremium nachgekommen. Das Statement enthält ein knappes Dutzend teils konkreter, teils allgemeiner Ratschläge. Im Gegensatz zur Trump-Entscheidung sind diese Empfehlungen nicht bindend.

Facebook bezog sich konkret auf politische Machthaberïnnen, das Board erweiterte die Empfehlungen aber auf einflussreiche Nutzerïnnen, unabhängig von ihrem politischen Amt. Schließlich hätten alle Accounts mit großer Reichweite auch eine besondere Verantwortung und stellten ein mögliches Risiko dar, wenn sie ihre Reichweite missbrauchen.

Derzeit gibt es bei Facebook eine sogenannte "newsworthiness"-Ausnahme: Bestimmte Inhalte dürfen online bleiben, wenn sie von öffentlichem Interesse sind, obwohl sie gegen die Community-Standards verstoßen. Dem Board zufolge führt diese Regel zu großer Verwirrung, weshalb Facebook sie genauer erklären müsse.

Das Gleiche, also bessere Erklärungen, wünscht sich das Board auch für Fälle, in denen Facebook einflussreiche Konten vorübergehend sperrt. Es müsse öffentlich erklärt werden, auf welcher Grundlage und welchen Verstößen die Sperre beruhe. Bevor die Sperre aufgehoben werde, solle Facebook prüfen, ob wirklich keine Gefahr mehr bestehe – und den Account gegebenenfalls noch länger sperren.

Weitere interessante Empfehlungen, teils mit zusätzlichen Anmerkungen:

• "Rapidly escalate content containing political speech from highly influential users to specialized staff who are familiar with the linguistic and political context. These staff should be insulated from political and economic interference, as well as undue influence." (Der letzte Satz bezieht sich womöglich auf Joel Kaplan und anderen Lobbyisten mit klarer politischer Agenda, die in der Vergangenheit mehrfach Facebooks Policy-Entscheidungen revidierten oder beeinflussten.)
• "Dedicate adequate resourcing and expertise to assess risks of harm from influential accounts globally." (Insbesondere das Wort "globally" ist entscheidend. Schließlich hat sich Facebook meist auf die USA fokussiert, seine Verantwortung in Ländern wie Myanmar oder auf den Philippinen aber oft vernachlässigt.)
• "Produce more information to help users understand and evaluate the process and criteria for applying the newsworthiness allowance, including how it applies to influential accounts."
• "Undertake a comprehensive review of Facebook’s potential contribution to the narrative of electoral fraud and the exacerbated tensions that culminated in the violence in the United States on January 6." (Facebook selbst hat seine Rolle zuletzt intern untersucht und ist dabei offenbar zu ganz anderen Ergebnissen gekommen, als Sheryl Sandberg öffentlich beteuert hatte. Mehr dazu in Briefing #718)
• "Provide users with accessible information on how many violations, strikes and penalties have been assessed against them, and the consequences that will follow future violations." (Das dürfte für viele Menschen eine wichtige Information sein. Tatsächlich wissen Nutzerïnnen oft nicht, warum sie gesperrt werden oder wie nahe sie einer Sperre stehen. Mehr dazu in Briefing #711)

Wie es jetzt weitergeht

• Die Medienaufmerksamkeit unmittelbar nach der Entscheidung war riesig. Dabei stehen die beiden wirklich wichtigen Daten noch bevor: Facebook hat nun 30 Tage Zeit, um auf die Entscheidung und insbesondere die Policy-Empfehlungen zu reagieren.
• Bis zum 4. Juni muss sich Facebook also äußern, dabei aber natürlich noch keine fertigen Regeln präsentieren, sondern nur sagen, ob und wie es die Ratschläge umzusetzen gedenkt. Bis die neuen Community-Standards erarbeitet sind, wird es länger dauern.
• Das gilt auch für die Entscheidung, wie es mit Trump weitergeht. Dafür hat das Board eine Frist von sechs Monaten gesetzt. Bis dahin bleibt, das hat Facebook bereits gesagt, Trump gesperrt.
• Unabhängig vom Ausgang ist es gut möglich, dass die endgültige Entscheidung dann erneut dem Board vorgelegt wird. Trump erhält also noch bis mindestens 2022 jede Menge Aufmerksamkeit.

Was die Entscheidung bedeutet

• Für Trump ist die Entscheidung vor allem finanziell ein großes Problem. Wenn er seinen Einfluss in der republikanischen Partei wahren oder ins Rennen für die Präsidentschaftskandidatur 2024 einsteigen will, braucht er Geld (Spiegel).
• Mit Twitter hat Trump sein wichtigste Mikrofon für immer verloren. Jetzt wäre er auf Facebook angewiesen, um Millionen seiner Anhängerïnnen zu erreichen, zu mobilisieren und vor allem davon zu überzeugen, ihm Geld zu spenden. Er wirbt bereits jetzt wieder in seinen Newslettern um Unterstützung und versucht, Facebook mit einem neu gestarteten Blog zu ersetzen.
• Dort teilte er dann auch wenig überraschend gegen Facebook, Twitter und Google aus ("total disgrace", "corrupt social media companies ") und wiederholte die alte Leier angeblicher Zensur.
• Die Entscheidung dürfte aber auch Zuckerberg nicht besonders gut gefallen. Schließlich hat sich das Board geweigert, Facebook die Verantwortung abzunehmen. Jetzt muss Facebook also doch selbst entscheiden – und egal, welchen Weg es geht, dürften Dutzende Millionen Menschen sehr wütend sein.

Was man aus der Entscheidung sonst noch lernen kann

Evelyn Douek hat nicht nur die wohl fundierteste Einschätzung zur Entscheidung geschrieben (Lawfare Blog), sondern weist auch auf drei Details hin, die sonst vielleicht im sehr langen Statement des Boards untergegangen wären:

• Facebook applies a cross check system to some high profile accounts to "minimize the risk of errors in enforcement." This means that the "decision-making processes are different for some high profile users." All the relevant terms here are left undefined, but these appear to be euphemisms that suggest that Facebook has an escalation process for decisions that might prove controversial.
• Facebook "never applied the newsworthiness allowance to content posted by the Trump Facebook page or Instagram account." This is quite extraordinary.
• Despite this newsworthiness policy, Facebook had found Trump had violated its rules five times before Jan. 6, and three times within the last year. There were also 20 pieces of content posted by Trump that were flagged by content reviewers or automation as violating Facebook’s Community Standards but were "ultimately determined" presumably as part of the cross-check process, to not be violations.

Wie wir die Entscheidung einschätzen

• Selten hat eine Entscheidung ein so großes Spektrum an Reaktionen hervorgerufen – und zwar über alle politischen Lager hinweg. Die Republikaner, allen voran Trump, regen sich natürlich auf, dass die Sperre aufrechterhalten wird. Ihr Lamento ist so erwartbar wie übertrieben (NYT), dass wir nicht im Detail darauf eingehen.
• Doch auch etliche liberale Kommentatorïnnen kritisieren die Entscheidung scharf. Margaret Sullivan (Washington Post), Ali Breland (Motherjones), das Real Facebook Oversight Board (mehr zum Gegengremium des offiziellen Boards in Briefing #675) und Dutzende einflussreiche Stimmen aus der Zivilgesellschaft (TechPolicyPress) sind sich einig: Das Board habe bewiesen, dass es nicht mehr als ein Feigenblatt sei, um zu verhindern, dass Facebook echte Verantwortung übernehmen müsse.
• Wir teilen die Einschätzung nicht. Nach vielen Gespräche und mehreren Pressekonferenzen mit Mitgliedern des Boards erscheint uns die Entscheidung sinnvoll und nachvollziehbar.
• Was Alan Rusbridger (Guardian) und Thomas Hughes über den Prozess erzählen, der zur Entscheidung führte, deutet auf ein wohlüberlegtes, gut abgewogenes Vorgehen hin.
• Das Statement ist ein klares Signal an Facebook, dass das Board nicht gewillt ist, Entscheidungen zu treffen, um die sich Facebook drücken will.
• "We felt it was a bit lazy of Facebook to be sending over to us a penalty suggestion that didn't exist in their own rulebook, so to speak, in their own community standards", sagte etwa die frühere Dänische Ministerpräsidentin Helle Thorning-Schmidt in einem Press-Call. "We are not here to lift responsibility off Facebook. We're here to be independent."
• Natürlich ist es unbefriedigend, noch länger warten zu müssen und gleichzeitig mit anzusehen, wie Trump wieder und wieder die Schlagzeilen dominiert. Aber in Anbetracht der Umstände gab es keine besseren Alternativen.
• Ein Teil der Kritik fokussiert sich auf den Aspekt, dass das Board nicht demokratisch legitimiert sei. Das stimmt, ist aber nicht die Schuld von Facebook.
• Demokratische Kontrolle muss von Außen kommen. Doch nachdem es Regierungen jahrelang versäumt haben, Facebook zu regulieren, ist das Board ein vorsichtiger, erster Versuch der Selbstregulierung.
• Dahinter mag der Wunsch stehen, Facebook aus der Schusslinie zu nehmen und das eigene Image aufzupolieren. Diese Motivation allein ist aber kein Grund, das Board als Ganzes abzulehnen.

Warum mehr auf dem Spiel steht als Trump

• Trump ist nicht irgendein Nutzer. Trotzdem ist die Entscheidung über seinen Account letztlich ein Einzelfall. Sie berührt aber Fragen, die größer sind als Trump.
• Denn, auch das untermauert der Fall Trump, Deplatforming wirkt. Seit er seine Konten verloren hat, ist sein Name fast vollständig aus den Schlagzeilen und den sozialen Medien verschwunden, wie Daten von NewsWhip (Axios) und Crowdtangle (Recode) zeigen. Es geht nicht um Freedom of Speech (Trump kann auf seinem neuem Blog fast alles sagen, was er will), wohl aber um Freedom of Reach.
• Bislang entscheiden die Tech-Konzerne allein, nach welchen Kriterien moderiert, gesperrt und verbannt wird. Je zentraler ihre Rolle als öffentliche Kommunikationsplattformen wird, desto wichtiger ist es, diesen Prozess zu demokratisieren.
• Das scheint auch das Oversight Board so zu sehen. "Am Ende ist die Öffentlichkeit der Richter. So sollte es in einer demokratischen Gesellschaft sein", sagte Board-Mitglied Michael McConnell kurz nach der Entscheidung. Lisa Hegemann ordnet das so ein (Zeit Online):

Man könnte das glatt verstehen als Aufruf, eine gesellschaftliche Initiative zu starten, die diese Entscheidungen diskutiert – und das Oversight Board damit überflüssig macht.

Header-Foto von KAL VISUALS bei Unsplash