Wie die EU Kinderschutz sagt und Überwachung meint

Salut am frühen Donnerstagmorgen!

Eigentlich wollte ich mich in der heutigen Ausgabe mit aller gebotenen Ruhe der Frage widmen, ob und wann KI uns alle umbringt. Aber daraus wird nun leider nichts, da mich die Realität einmal mehr eingeholt hat: EU-Kommissionspräsidentin Ursula von der Leyen hat in ihrer Rede zur "State of the Union" (EU-Kommission) aufgezeigt, wie sie sich das Web in Europa künftig vorstellt – tl;dr: deutlich weniger frei.

Ich habe daher kurzerhand Dirk von Gehlen angefragt, ob er nicht Lust hätte, von der Leyens Ideen zu kommentieren. Hatte er. Folglich gibt es heute einen Gastbeitrag von Dirk und in den kommenden Tagen dann noch einmal einen ausgeruhten Blick auf die Debatte um eine Verlangsamung der KI-Entwicklung.

Merci, Martin

Wie die EU Kinderschutz sagt und Überwachung meint

Ein Gastbeitrag von Dirk von Gehlen, Autor des Buchs "Social Media verbieten? Verboten"

Was hätten wir alles machen können mit dem schönen Namen "EU-Kids-Act", also europäisches Kinder-Gesetz:

• Eine Vorgabe, die junge Stimmen verpflichtend macht in staatlichen Entscheidungen?
• Ein Gesetz, das Bildungseinrichtungen stärkt?
• Den Sonntagsreden-Klimaschutz in echte Verpflichtungen überführt?
• Oder die Alterssicherung junger Menschen priorisiert?

Nein, die EU-Kommission hat sich entschieden, den Namen für ein Gesetz zu verwenden, das die Grundrechte von allen einschränken wird – und ausgerechnet denen Teilhabe und Befähigung beschneidet, nach denen es benannt ist: Kindern!

Zwar kennt die Kinderrechts-Konvention der Vereinten Nationen drei Säulen (Schutz, Teilhabe und Befähigung), die öffentliche Debatte rund um Social Media kennt hingegen nur noch ein Ziel, dem sich alles unterzuordnen hat: den bewahrpädagogischen Schutz und die Abschottung der Kinder.

Die Sorge um das "öffentliche Kind" ist eine beliebte rhetorische Figur, die stets ins Feld geführt wird – ohne dass jemals irgendwo nur untersucht worden wäre, ob eine Altersbeschränkung in der Social Media Nutzung von Kindern und Jugendlichen tatsächlich einen signifikanten Einfluss auf deren Wohlbefinden hätte.

Die Debatte ist aber so verfahren, dass dieser Beweis auch gar nicht mehr nachgefragt wird (nullhypothese / Substack). Das Bauchgefühl hat bereits entschieden: "Man muss kein Wissenschaftler sein, um zu verstehen, was es mit der Konzentrationsfähigkeit junger Menschen macht, wenn sie in der Schule oder zu Hause bei den Hausaufgaben ein Smartphone neben sich liegen haben", hat Der Spiegel leider völlig unironisch bereits zu Beginn des Jahres erforscht. Weiter heißt es:

"Es gibt genügend Erwachsene, die sich dem beständigen Strom aus lustigen, monströsen und skurrilen Posts nicht entziehen können."

Diesem allgemeinen Bauchgefühl analog sozialisierter Erwachsener ergibt sich die EU-Kommission jetzt und gaukelt ihnen mit dem EU-Kids-Act vor, etwas für den Schutz von Kindern und Jugendlichen zu tun.

Aber der Name Kids-Act steht in der EU-Nomenklatur gar nicht in erster Linie für Kinder. Kids ist hier in Wahrheit ein Akronym und heisst "Keeping Internet Digital Spaces Accountable and Trustworthy".

Das ist konsequent. Denn um Kinder geht es hier auch gar nicht. Es geht um den "Seelenfrieden der Eltern" – so hatte es der australische Premierminister Anthony Albanese im Dezember 2024 formuliert (NPR), als er das weltweit erste Gesetz dieser Art auf den Weg brachte. Seine Absicht: Eltern sollten von den anstrengenden Debatten mit ihren Kindern über die Smartphone-Nutzung befreit werden (Spoiler: Womöglich sind genau diese Debatte das, was Artikel 6 im Grundgesetz als das "natürliche Recht der Eltern" bezeichnet: Erziehung).

Deshalb folgte er einer Kampagne der Murdoch-Presse in Australien (Techpolicy) und behauptete, er gebe Kindern ihre Kindheit zurück. Dass die genannten Ziele in Australien nicht erreicht wurden (Crikey), ändert nichts daran, dass die EU nun ebenfalls diesen Weg einschlagen will.

Denn wie gesagt: um Kinder geht es hier nicht. Es geht darum, staatliche Zensurinstrumente für die Online-Kommunikation vorzubereiten. Diese Formulierung wählt der Deutschen Ethikrat, der in seiner Stellungnahme vor Social-Media-Verboten warnt (Ethikrat): 

"Die Technologien sind Instrumente zur Unterscheidung und unterschiedlichen Behandlung von Nutzergruppen. Als solche können sie auch zweckentfremdet werden, und zwar sowohl zur Beschränkung des Zugangs für weitere Gruppen als auch des Zugangs zu anderen Inhalten, zum Beispiel zu Materialien zur sexuellen Aufklärung oder gar zu solchen, die politisch unerwünscht sind. Aufgrund dieser breiten Einsatzmöglichkeiten kann nicht ausgeschlossen werden, dass die Altersbestimmungstechnologien als Zensurinstrument missbraucht werden."

Der Netzkultur-Influencer Aidan Walker sagt deshalb (dirkvongehlen.de): 

"Die Freiheit im 21. Jahrhundert wird nicht nur von organisierten rechtsextremen Autoritären bedroht, sondern auch von unorganisierten, unfähigen Gemäßigten, die keine Ahnung haben, was sie tun."

Damit bezog er sich in seinem Original-Beitrag (Instagram/@aidanetcetera) auf die britische Regierung, die ebenfalls Altersbeschränkungen einführen will. Es lässt sich aber auch auf die EU-Pläne übertragen, in denen Sebastian Meineck  ebenfalls Hinweise auf "mangelnde technische Expertise des Entwurfs" erkennt (Netzpolitik).

Der EU-Kids-Act ist deshalb leider auch eine ziemliche Augenwischerei. Unter dem guten Vorwand etwas für das Wohlbefinden von Kindern und Jugendlichen zu tun, bringt er die Gesellschaft weiter weg von dem Ziel, gemeinsam eine digitale Demokratie aufzubauen. Statt zu fragen, was wir tun müssten, um Kinder und Jugendliche zu aktiven Bürger:innen einer freien Gesellschaft zu machen, stellt der Kids-Act ein unter Expert:innen hochumstrittenes Instrument in den Mittelpunkt. 

Wer aber das Ziel in den Blick nimmt, stellt schnell fest: Nahezu alle Expert:innen für Pädagogik halten ein Verbot (allein) für falsch. Außer dem Ethikrat, distanzieren sich auch der Kinderschutzbund, der Lehrerverband, die Arbeiterwohlfahrt und die Bundesschülerkonferenz von Social-Media-Verboten.

Denn wir werden bei keiner Sache der Welt besser, indem wir sie nicht tun. Das gilt auch für die Nutzung sozialer Medien. Deshalb sollten wir die Energie der aktuellen Debatte vielleicht eher auf den Aspekt lenken, den die Expert:innen von der Gesellschaft für Medienpädagogik und Kommunikationskultur betonen (GMK):

"Was junge Menschen nachhaltig schützt, ist die Fähigkeit, sich in digitalen Räumen souverän bewegen zu können. Diese Fähigkeit entsteht nicht durch Verbote, sie entsteht durch Bildung."

Bildung entsteht dort, wo staatliche Gesetze erlassen werden, die nicht in Zensurinstrumente investieren, sondern in Infrastruktur und Personal in Schulen und außerschulischen Bildungseinrichtungen.

Bildung entsteht dort, wo wir uns über gute Alternativen informieren und diese so attraktiv machen, dass nicht nur Kinder und Jugendliche womöglich freiwillig den Big-Tech-Plattformen den Rücken kehren.

Und Bildung entsteht schließlich dort, wo gute Vorbilder zeigen, wie ein gesunder Umgang mit sozialen Medien gelingen kann - und dabei auch Regeln und Grenzen setzen.

Aber aus diesen Regeln sollte sich der Staat so weit wie möglich raushalten. Denn das Recht auf freie Meinungsäußerung und das Erziehungsprivileg stehen nicht durch Zufall ganz vorne im Grundgesetz (Artikel 5 und 6): Es sind Grundrechte. Wer diese aufs Spiel setzt, kommt einer (digitalen) Demokratie nicht näher, sondern entfernt sich von ihr.

Wie ein gesunder Umgang mit sozialen Medien gelingen kann, erarbeitet der Autor nicht nur in einem Medienmenü in seinem Buch, sondern auch in einem Webinar am 8.10. für Eltern und Großeltern.

Dirk und ich haben vor rund zwei Wochen sehr ausführlich über das Thema in meinem Podcast diskutiert: socialmediawatchblog.de/podcast.

Auf dem Radar

• Ein Buch, das man lesen sollte: "End Times Fascism", geschrieben von Naomi Klein und Astra Taylor, beschreibt, wie religiöse Fundamentalist:innen, KI-Endzeitler und ethnonationalistische Kräfte Krisen – etwa Klimawandel, KI-Risiken und wachsende Ungleichheit – nicht lösen, sondern politisch und wirtschaftlich für sich nutzen wollen. Im Gespräch mit Brian Merchant (YouTube / Blood in the Machine) kritisieren sie KI-Unternehmen, die einerseits vor der existenziellen Gefahr ihrer eigenen Technologie warnen und sie gleichzeitig mit Vollgas weiterentwickeln. Klein und Taylor verknüpfen das mit Fragen zu Überwachung, Datenzentren, Urheberrecht und der Nähe großer Tech-Konzerne zur Trump-Administration – und plädieren für breite Bündnisse und eine demokratischere Technologiepolitik als Gegenentwurf. Wer verstehen will, warum apokalyptisches Denken gerade politisch so anschlussfähig ist, findet mit "End Times Fascism" eines der klügsten aktuellen Bücher dazu. Ich habe die knapp 400 Seiten noch nicht ganz durch, kann es aber bereits nach den ersten Hundert ausdrücklich empfehlen.
• Eine Interpretation, der man mehr Aufmerksamkeit schenken sollte: Cory Doctorow argumentiert in einem aktuellen Blogpost (Pluralistic), dass das Geschäftsmodell großer KI-Anbieter wegen hoher Kosten, negativer Stückökonomie (read: die laufenden Kosten pro einzelner Anfrage, pro User oder pro Million Tokens, die bei jeder Nutzung neu anfallen) und geringer Wechselkosten vermutlich nicht dauerhaft profitabel ist. Die Unternehmen befänden sich dadurch in einem fortwährenden Wettbewerb, in dem sie ständig neue und leistungsfähigere Modelle entwickeln müssten. Doctorow deutet daher die Forderung von Amodei nach einer Verlangsamung der KI-Entwicklung – für die sich Altman und Musk direkt offen zeigten – als möglichen Versuch, diesen Wettbewerb zu begrenzen, ohne Foul zu spielen (Stichwörter: Wettbewerbsrecht, Kartellrecht), und zugleich offene chinesische Modelle auszuschließen.
• Ein neues Abo-Modell, das tief blicken lässt: Meta führt ein neues Abo-Modell ein. Für 49,99 Dollar pro Monat kann man im erweiterten Creator-Plan (Meta) nun neben zusätzlichen KI-Features zur Erstellung von Slop Content u.a. eine begrenzte Anzahl an Links setzen: 4 bei Insta-Posts + 4 bei Insta-Reels, sowie 8 bei Facebook-Reels. Unglaublich, oder? Am Anfang war der Link – er ist bis heute das Fundament des Webs. Meta lässt sich jeden Link 3 Dollar kosten. Noch mehr Verachtung kann man gegenüber dem freien Web kaum zum Ausdruck bringen.

Alle anderen News findest du auf meinem Radar: socialmediawatchblog.de/radar