Die wichtigsten News und Debatten rund um Social Media, Tech und KI

Was ist

OpenAI hat zum ersten Mal beziffert, wie viele Menschen mit psychischen Problemen regelmäßig ChatGPT nutzen. Der Blogeintrag stellt die eigenen Sicherheitsmaßnahmen in den Vordergrund und soll zeigen, dass aktuelle Modelle angemessener auf Suizidabsichten oder Wahnvorstellungen reagieren.

Das mag sein. Doch zum einen lag die Latte nun wirklich nicht besonders hoch. Die teils katastrophalen Antworten von Chatbots und ihre fatalen Folgen sind gut dokumentiert (SMWB).

Zum anderen geben die Zahlen von OpenAI keinen Anlass zur Beruhigung. Im Gegenteil: Es geht um Millionen Betroffene. Die Daten verdeutlichen, dass KI ein gigantisches Sozialexperiment mit ungewissem Ausgang ist.

Wir fassen die zentralen Erkenntnisse zusammen und verbinden das mit aktuellen Studien. Diese Forschung zeigt: Auch für psychisch stabile Menschen sind schmeichlerische Chatbots gefährlich.

Warum das wichtig ist

Beängstigend viele Menschen entwickeln starke Gefühle für KI. Sie schreiben Sprachmodellen ein Bewusstsein und einen Charakter zu. Manche freunden sich mit Bots an und verlieben sich

Was ist

Am Dienstag schrieb Sam Altman vier Absätze auf X, die ein großes Medienecho auslösten. Am prägnantesten drückt es Samantha Cole von 404 Media aus: "ChatGPT’s Hail Mary: Chatbots You Can Fuck".

Wir halten den Spott über Altmans Sinneswandel für berechtigt. Der erste Teil seines Postings ist aber mindestens genauso wichtig und wirft kein gutes Licht auf OpenAI. Altman behauptet, man habe die "ernsthaften psychischen Probleme" im Zusammenhang mit ChatGPT in den Griff bekommen und könne jetzt die meisten Restriktionen lockern.

Studien, Einschätzungen von Expertïnnen und anekdotische Evidenz zeichnen ein anderes Bild. Das zeigt erneut: Große Reichweite geht leider nicht automatisch mit großem Verantwortungsbewusstsein einher.

Was Altman über "Erotik für Erwachsene" sagt

Beginnen wir mit dem Teil des Postings, der die meiste Aufmerksamkeit erhielt:

Wenn wir im Dezember die Altersverifizierung umfassender einführen, werden wir im Sinne unseres Grundsatzes, "erwachsene Nutzer wie Erwachsene zu behandeln", auch weitere Inhalte wie Erotika für verifizierte Erwachsene zulassen.

Anders ausgedrückt: Auf Wunsch wird ChatGPT zu SexGPT.

Aus wirtschaftlicher Sicht ergibt das Sinn. In den kommenden fünf Jahren will OpenAI mehr als eine Billion Dollar ausgeben (FT). Der prognostizierte Umsatz für 2025 beläuft sich auf 13 Milliarden Dollar. Auch ohne Mathestudium merkt man schnell: OpenAI benötigt dringend neue Einnahmequellen, um nicht ständig Geld bei Investoren einsammeln zu müssen.

Sexbots allein werden dieses Problem nicht lösen. Trotzdem könnten erotische Inhalte und Pornografie ein lukratives Geschäftsmodell für OpenAI sein (ZEIT). Menschen, hauptsächlich Männer, geben dafür erfahrungsgemäß viel Geld aus.

Diese Zahlungsbereitschaft war historisch ein wichtiger Faktor für den Erfolg neuer Medien und Technologien (SZ). Die große Nachfrage nach Pornografie hat etwa zur Verbreitung von VHS-Kassetten, Online-Zahlungssystemen, Streaming-Infrastruktur und bestimmten Formen der Online-Werbung beigetragen.

Bereits jetzt gibt es einen großen Markt für Chatbots, die erotische Rollenspiele und mehr zulassen. Knapp 30 Millionen Menschen nutzen Apps, die romantische und sexuelle Beziehungen mit einer KI anbieten (ChinaTalk). Die meisten werben mit virtuellen Freundinnen und sprechen heterosexuelle Männer an.

Dazu kommen Nutzerïnnen, die mit einem der Sprachmodelle von Google, Meta oder OpenAI flirten. Wer 30 Dollar pro Monat für Grok zahlt, kann seit Juli mit einem hochgradig sexualisierten Anime-Avatar chatten, den The Verge als "moderne Interpretation einer Telefonsex-Hotline" bezeichnete.

Warum der Spott berechtigt ist

Altman hat die Häme aus zwei Gründen verdient. Zum einen brüstete er sich noch im August damit, dass OpenAI keinen Sexbot-Avatar für ChatGPT entwickelt habe (YouTube).

Solche kurzfristigen Growth-Hacks liefen den langfristigen Zielen von OpenAI und dem Interesse der Nutzerïnnen zuwider. Er sei stolz, dass man der Versuchung widerstanden habe. Dieser offensichtliche Versuch, sich über Elon Musk und Grok lustig zu machen, ist nicht besonders gut gealtert.

Was ist

Seit Anfang Oktober macht ein Artikel der Financial Times die Runde: „Have we passed peak social media?“, fragt John Burn-Murdoch. In seiner Kolumne argumentiert er, dass die Nutzungsdauer seit 2022 sinkt. Demnach wenden sich insbesondere Jüngere von Plattformen ab.

Wir haben uns die Daten genauer angesehen und sind skeptisch. Die Antwort auf die Frage von Burn-Murdoch hängt davon ab, wie man „Social Media“ definiert – und das macht der Text leider nicht klar.

Wir fassen drei zentrale Aussagen der FT zusammen und sammeln Gegenargumente.

Was die FT über Peak Social sagt

Der Text stützt sich auf drei Datenpunkte:

1. Die Nutzungsdauer geht zurück

• Seit dem Peak 2022 verbringen Menschen weniger Zeit mit Social Media.
• Vor drei Jahren waren es im Schnitt gut 2,5 Stunden pro Tag. Jetzt sind es zehn Minuten weniger.
• Der Rückgang ist bei den 16- bis 24-Jährigen besonders stark ausgeprägt.

2. Soziale Medien werden weniger sozial

• Seit 2014 hat sich der Charakter der großen Plattformen stark verändert.
• Der soziale Aspekt tritt in den Hintergrund. Menschen teilen dort seltener ihre Meinung oder vernetzen sich mit Freundïnnen.
• Stattdessen dominiert Unterhaltung. Man folgt Promis und lässt sich berieseln.

3. Die USA passen nicht ins Bild

• Während Europa und Asien die Peak-Social-These bestätigen, geht der Trend in den USA in die entgegengesetzte Richtung.
• Dort steigt die tägliche Nutzungsdauer konstant und liegt rund 15 Prozent höher als in Europa.

Was unklar bleibt

Die FT stellt keine Rohdaten zur Verfügung und schreibt nur, dass die Zahlen auf Befragungen von mehr als 250.000 Erwachsenen in mehr als 50 Ländern beruhten. Das Marktforschungsunternehmen GWI habe die Analyse im Auftrag der FT durchgeführt.

Wir vermuten, dass es sich um die jährlichen Social-Media-Reports von GWI handelt, die sich nach Angabe einer E-Mail-Adresse herunterladen lassen. Ein Teil der Zahlen findet sich auch online bei DataReportal und dem Jahresbericht von We Are Social, der sich auf GWI-Daten stützt (PDF).

Sollte diese Annahme zutreffen, sind die Zahlen der FT kaum belastbar. DataReportal versieht die entsprechenden Folien mit einer Fußnote, die auf diesen Hinweis verlinkt:

Beginnend mit ihrer Forschungsstudie des vierten Quartals 2024 hat GWI erhebliche Änderungen an der Art und Weise vorgenommen, wie die für die Mediennutzungsdauer erhobenen Daten erfragt und berechnet werden. Diese Änderungen haben die von dem Unternehmen für diese Datenpunkte ausgewiesenen Werte im Vergleich zu den Werten früherer Forschungsstudien erheblich beeinflusst. Infolgedessen werden die Werte [für 2025] nicht mit den Werten für entsprechende Datenpunkte aus früheren Ausgaben der Global Digital Reports-Reihe vergleichbar sein.

Weiter unten heißt es:

Im Rahmen seiner regelmäßigen Aktualisierungen hat GWI vor Kurzem einige wichtige Überarbeitungen an seiner zugrundeliegenden Methodik vorgenommen. Diese Aktualisierungen führten im Vergleich zu ähnlichen Datenpunkten aus früheren Berichten dieser Reihe zu signifikanten Änderungen bei den Werten verschiedener Datenpunkte in unserem Bericht vom April 2023.

Zusammengefasst: Man kann die Werte bis einschließlich 2022 nicht mit den späteren Daten vergleichen. Falls sich die FT auf diese Zahlen stützt, fehlt der Hinweis auf die methodischen Änderungen.

Gehen wir mal davon aus, dass GWI und FT wissen, was sie tun, und die Daten doch vergleichbar sind. Selbst dann bleiben Fragen offen:

• Wie lauten die genauen Fragen, die den Teilnehmenden gestellt wurden?
• Angesichts der großen Stichprobe handelt es sich vermutlich um Selbsteinschätzungen. Wie wurden diese erfahrungsgemäß unzuverlässigen Angaben geprüft?
• Sind die Zahlen für alle Länder und Altersgruppen repräsentativ?
• Welche Plattformen zählen als „Social Media“? Zählen etwa YouTube, Discord, Twitch und Reddit als soziale Medien?
• Wie sieht es mit Messengern wie Telegram und WhatsApp aus, die sich durch Gruppen und Kanäle ebenfalls in semi-öffentliche Plattformen verwandeln?

Bevor wir „Peak Social Media“ ausrufen, wüssten wir gern, auf welchen Daten diese These beruht.

Was gegen die These spricht

Zwei aktuelle Pew-Studien:

• Der Anteil der Menschen in den USA, die Nachrichten auf TikTok sehen, ist seit 2022 signifikant gestiegen. Bei den 18-29-Jährigen sind es 43 Prozent.
• Fast die Hälfte der Befragten nutzt Social Media, um sich über politische und soziale Themen zu informieren. Besonders wichtig sind Plattformen für die Meinungsbildung von Jüngeren.

Was ist

In den vergangenen Wochen war dieser Newsletter eher schwere Lektüre. Es ging um Makroökonomie (Natürlich ist KI eine Blase), Politik (Social-Media-Verbot: Was in der Debatte zu kurz kommt) und psychische Probleme (Wahn, Psychosen, Suizid: Die dunkelste Seite von KI).

Heute wird es leichter und konkreter. Wir stellen KI-Tools und Prompts vor, die wir selbst nutzen, und beschreiben unsere Workflows. Ein Hinweis vorab: Das ist kein vollständiger Überblick und erst recht keine Schritt-für-Schritt-Anleitung.

Wir möchten nur ein paar Anregungen geben. Denn unsere Erfahrungen mit den meisten KI-Guides zeigen: Am Ende sind sie eher Inspiration und nichts, was man eins zu eins übernimmt. KI muss zum individuellen Einsatzzweck passen. Deshalb muss man fast immer selbst ausprobieren, welche Tools und Prompts funktionieren.

Be careful

Aus Gründen einige Grundsätze, die wir uns selbst gegeben haben:

• Erst denken, dann KI fragen.
• KI-Output allein ist keine Quelle.
• Sensible Daten haben in einem KI-System nichts

Was ist

Das Reuters-Institut der Universität Oxford hat den Digital News Report veröffentlicht. Neben der ARD/ZDF-Onlinestudie zählt der jährliche Bericht zu den umfassendsten und methodisch besten Untersuchungen zur Nutzung klassischer und sozialer Medien.

Viele wissenschaftliche Publikationen erscheinen als unhandliches PDF-Dokument, der DNR ist dagegen exzellent aufbereitet und leicht zugänglich. Hier sind die wichtigsten Links:

• Executive Summary
• Methodik
• Ergebnisse nach Ländern geordnet
• Ergebnisse für Deutschland
• Deutsche Teilstudie des Hans-Bredow-Instituts des Leibniz-Institut für Medienforschung (Das dort verlinkte PDF auf dem SSOAR-Server mit den vollständigen Ergebnissen lädt bei uns derzeit nicht, eine Kopie lässt sich über Archive.org abrufen)

Der DNR gibt mehr her, als in ein Briefing passt. Wir konzentrieren uns auf sieben Ergebnisse, die wir für wichtig halten oder die uns überrascht haben. Dabei blicken wir vorwiegend auf Deutschland, internationale Daten nennen wir als Vergleichswerte. Unabhängig von unserer eigenen Gewichtung empfehlen wir dir, dich selbst mit dem DNR zu beschäftigen