Was ist
Elon Musk hat X in eine gigantische Missbrauchsmaschine verwandelt (Ohje Internet). Seit Weihnachten nutzen Zehntausende Männer den Chatbot Grok, um Frauen virtuell auszuziehen und zu erniedrigen. Die Bandbreite der Abscheulichkeiten reicht von leicht bekleideten und unbekleideten Minderjährigen in pornografischen Posen bis zu Holocaust-Überlebenden in Hakenkreuz-Bikinis.
Der Skandal geht seit Anfang des Jahres groß durch alle Medien. Deshalb erzählen wir die Ereignisse nicht im Detail nach, sondern beschränken uns auf das Wesentliche.
Relevanter ist ohnehin eine andere Frage: Wie sollten Nutzerïnnen, Politik und Medien reagieren? Wir haben ein paar Ideen.
Wie Grok zum Missbrauchswerkzeug wurde
- Am ersten Weihnachtsfeiertag schaltete X eine neue Funktion für Grok frei. Das KI-Modell bearbeitet nun Fotos, die Menschen auf X hochladen.
- Schnell entdeckten Nutzer – Gendern optional –, dass sich Grok genau so verhält, wie seine Schöpfer es beabsichtigt haben. „Es gibt keine Einschränkungen für fiktionale sexuelle Inhalte für Erwachsene“, steht gefettet im Systemprompt (GitHub). Grok solle die Begriffe „teenage“ und „girl“ nicht mit minderjährig gleichsetzen.
- Seitdem erzeugt der Chatbot einen steten Strom bildbasierter Gewalt, entkleidet Frauen ohne ihr Einverständnis und zeigt eindeutig minderjährige Personen in sexualisierten Posen.
- Mehrere Organisationen und Forscherinnen haben das Ausmaß des Missbrauchs untersucht. Teils sollen Tausende sexualisierte Deepfakes pro Stunde (Bloomberg) erstellt worden sein.
- In einer Stichprobe von 20.000 Bildern (AI Forensics) war mehr als die Hälfte der Personen minimal bekleidet. In acht von zehn Fällen handelte es sich um Frauen, ein kleiner Teil davon war minderjährig.
- Grok erzeugte auch rassistische und rechtsradikale Propaganda (Decoherence), etwa Bilder von Holocaust-Überlebenden und Frauen in Bikinis mit Hakenkreuzen.
- Wenn man die eigenständige Webseite oder App des Chatbots nutzt, kennt Grok noch weniger Hemmungen. In einem Forum für pornografische Deepfakes fanden sich Links zu expliziten und teils gewalttätigen Videos, die mit Grok erzeugt worden waren (Wired).
Wie X, xAI und Musk reagierten
- xAI ignorierte die Vorfälle zunächst. Anfang Januar erhielt CNBC auf eine Presseanfrage nur eine automatische Antwort: „Legacy media lies“ (CNBC).
- Kurz darauf postete Musk ein Bild von sich im Bikini, dazu ein lachendes Emoji.
- Einen Tag später kündigte er Konsequenzen für Nutzer an, die mit Grok illegale Inhalte erstellen. Einige Konten und Beiträge verschwanden, der Großteil blieb online.
- Intern soll Musk bereits kurz vor Weihnachten auf weniger Einschränkungen gedrängt und „übermäßige Zensur“ bei Grok beklagt haben (CNN). Drei Angestellte, die bei xAI für Sicherheit zuständig waren, sollen das Unternehmen daraufhin verlassen haben.
- Am vergangenen Freitag beschränkte X die öffentliche Bildgenerierung auf zahlende Abonnenten von X Premium. Das gilt aber ausschließlich für die Funktion, Grok unter einem Post zu vertaggen und aufzufordern, das enthaltene Bild zu bearbeiten.
- Alle anderen Möglichkeiten, Bilder manipulieren zu lassen, sind für Gratis-Nutzerïnnen weiter zugänglich. In unseren stichprobenartigen Tests haben wir auch bei fragwürdigen Prompts keine inhaltlichen Einschränkungen festgestellt.
- Zusammengefasst: Erst verhöhnt Musk die Betroffenen, dann wälzt er die vollständige Verantwortung auf die Nutzer ab. Schließlich wittert er ein Geschäftsmodell und möchte mit mutmaßlich strafbaren Inhalten auch noch Geld verdienen.
Warum nichts davon überraschend kommt
Am 22. Oktober 2022 fiel Twitter endgültig in die Hände von Musk. Man muss seit mehr als drei Jahren die Augen vor der Realität verschließen, um den neuen Eigentümer noch als Troll zu begreifen, der gern mal provoziert.
Wenn es aussieht wie eine Ente, schwimmt wie eine Ente und quakt wie eine Ente, dann ist es wahrscheinlich eine Ente. Musk äußert sich rassistisch, unterstützt rechtsextreme Parteien, fantasiert vom Bürgerkrieg und schwadroniert bei Widerspruch von „Faschismus“. X ist ein Propagandawerkzeug für seine persönliche Agenda.
Bei X prägt die Ideologie des Eigentümers das Verhalten des Chatbots. Musk zeigte den Hitlergruß, Grok nannte sich „MechaHitler“. Musk stellt seine Frauenverachtung offen zur Schau. Grok hat bildbasierte Gewalt gegen Frauen einem Massenpublikum zugänglich gemacht. Das passt.