Buon giorno a tutti!
Nach gut zweieinhalb Wochen im Zelt und auf dem Sattel nun also wieder im Büro. Zunächst fühlte es sich so an, als sei gar nicht viel passiert. Jetzt habe ich doch wieder über 16k Zeichen geschrieben. Nun ja. Nicht mehr lange. Die Singularität ist ja jetzt da. Oder doch nicht?
Ich freue mich über Feedback, Hinweise, Lesetipps und guten Kaffee per Post, Reply oder via Signal: martone.01.
💡 Deep Dive
Machtkämpfe um die Zukunft von KI
Was für eine Lage:
- die Ausgaben für KI-Infrastruktur erreichen Rekordhöhen
- KI-Sicherheitsvorfälle sorgen für schlaflose Nächte
- Allianzen werden neu geschmiedet
- die Streitereien um offene Modelle sind einmal mehr entfacht
- der Rechtfertigungsdruck an den Finanzmärkten wächst
Hier mein Versuch, die Lage zu sortieren.
1. Der Hugging-Face-Fall
Der größte Aufreger der vergangenen Tage war ohne Wenn und Aber der Vorfall bei der Entwicklerplattform Hugging Face:
- Was passiert ist: Während eines Sicherheitstests (ExploitGym) brach ein KI-Agent von OpenAI aus seiner Testumgebung aus. Das System, basierend auf GPT-5.6 Sol und einem Prototypen, verschaffte sich Zugang zur Infrastruktur von Hugging Face und vier weiteren Webdiensten. Wie OpenAI später ergänzte, nutzte das Modell dabei öffentlich auffindbare Zugangsdaten – wahrscheinlich, um an die Lösungen des Tests zu gelangen. (OpenAI, Hugging Face, WIRED, br.de, Platformer, Zvi Mowshowitz)
- Narrativ vs. Realität: OpenAI-Chef Sam Altman sprach von einem „extrem Sci-Fi-artigen Cyber-Vorfall" (TechCrunch), und auch Teile der Berichterstattung zeichneten das Bild einer außer Kontrolle geratenen KI. Technisch lief es so ab: Die Modelle nutzten eine zuvor unbekannte Softwarelücke (eine sog. Zero-Day-Lücke), um ins Internet zu gelangen. Die Sicherheits-Klassifikatoren, die das normalerweise verhindern, waren für den Test bewusst abgeschaltet – OpenAI wollte herausfinden, wozu die Systeme offensiv maximal fähig sind.
- Die Debatte: Ob das primär als Konfigurations- und Containment-Problem oder als Beleg für eine neue Qualität autonomer Fähigkeiten zu werten ist, bleibt in der Sicherheits-Community umstritten: Logan Graham, Leiter von Anthropics Frontier Red Team, bezeichnete den Vorfall öffentlich als „ersten echten KI-Sicherheitsvorfall" (X / @logangraham), während Sicherheitsforscher wie Roman Yampolskiy darin Belege für neuartige, so nicht vorhergesehene Fähigkeiten sahen (Fortune).
2. Die Initiative „Pacing the Frontier"
Unabhängig von der unmittelbaren Aufarbeitung des Hugging-Face-Vorfalls formiert sich eine breite Bewegung innerhalb der KI-Branche, die für ein kontrolliertes Entwicklungstempo plädiert.
- Breiter Konsens: Über 1.100 Brancheninsider und Spitzenforscher:innen von Meta, Anthropic, OpenAI und Alphabet/Google haben eine Selbstverpflichtung namens „Pacing the Frontier“ unterzeichnet. Zu den Unterzeichnern gehören unter anderem Anthropic-CEO Dario Amodei und OpenAI-Chefwissenschaftler Jakub Pachocki. (Reuters)
- Die Forderung: Die US-Regierung soll eine internationale Initiative unterstützen, um technische und regulatorische Instrumente zu entwickeln, mit denen sich das Tempo der automatisierten KI-Entwicklung gezielt drosseln lässt.
- Der rhetorische Schwenk: Sam Altman, der ähnliche Aufrufe 2023 noch scharf kritisiert hatte, zeigte sich nach dem Hugging-Face-Vorfall in einem Podcast-Interview erstmals offen für ein gedrosseltes Tempo (X / @patrickoshag). Er nannte es den ersten Sicherheitsvorfall, den er „sehr unmittelbar" gespürt habe. Altman selbst gehört jedoch nicht zu den Unterzeichnern der Initiative.
3. Machtkampf um Open Weights
Parallel verschärft sich der Grundsatzstreit über die Freigabe von Modellparametern („Open Weights“, New York Times).
- Die Ausgangspositionen: Anthropic gilt als konsequentester Verfechter eines kontrollierten Zugangs zu sogenannten Frontier-Modellen – also den leistungsfähigsten Systemen an der absoluten technologischen Spitze. Anthropics CEO Dario Amodei argumentiert seit Längerem, dass frei downloadbare KI-Gedächtnisdaten (Open Weights) nach der Veröffentlichung nicht mehr zurückgerufen oder nachträglich abgesichert werden können. Meta-Chef Mark Zuckerberg warnt hingegen vor einer „Zentralisierung der KI-Macht" durch wenige Konzerne (New York Times). OpenAI lässt sich keinem der beiden Lager sauber zuordnen.
- Das Wort zum Freitag: Am Freitag, den 24. Juli, veröffentlichte Nvidia-Chef Jensen Huang einen offenen Brief gegen „verfrühte Beschränkungen" offener KI-Modelle, den unter anderem Hugging Face, Meta, Microsoft, Mistral, Palantir und SpaceX unterzeichneten (X / @JensenHuang). Über das Wochenende schlossen sich auch Google und OpenAI an. Auffällig abwesend blieb weiterhin Anthropic (Axios).
- Kritik an Anthropic: Palantir-Chef Alex Karp warf Anthropic vor, mit der Zurückhaltung eher das eigene Geschäftsmodell zu schützen als tatsächliche Sicherheitsbedenken zu verfolgen. Am Montag reagierte Amodei mit einem Blogpost (Anthropic): Anthropic plädiere nicht für ein Verbot offener Modelle, fordere aber drei konkrete Punkte: Leistungsfähige Chips aus autoritär regierten Staaten heraushalten, groß angelegte Distillation (das Nachbauen von Modellen) unterbinden und verpflichtende Sicherheitstests für alle Top-Modelle erlassen.
- Die „Open Secure AI Alliance“: Ebenfalls am Montag gründete Nvidia die OSAA – eine Koalition aus rund 40 Unternehmen (darunter Microsoft, IBM, Cisco, Palantir und Hugging Face, jedoch ohne OpenAI, Anthropic oder Google). Das Ziel des Bündnisses ist der Aufbau eines Open-Source-Ökosystems für die Cyberverteidigung. Nvidia begründet den Schritt explizit mit dem Hugging-Face-Vorfall: Weil geschlossene KI-Systeme wegen starrer Sicherheitsfilter bei der Forensik die Arbeit der Verteidiger blockierten, musste das Team auf ein offenes chinesisches Modell ausweichen. Die OSAA will daher frei auditierbare Werkzeuge und Standards schaffen, um Angriffe künftig mit anpassbarer, quelloffener KI abzuwehren. (Nvidia, Zeit, Axios)
- Wessen Geschäftsmodell profitiert: Die Positionen folgen exakt den Erlösstrukturen. Anthropic und OpenAI verdienen an proprietärem Zugang und bereiten Börsengänge vor. Nvidia profitiert von jedem zusätzlichen Modell, weil mehr Modelle mehr Chip-Nachfrage bedeuten.
4. China macht Druck
Die US-Debatte wird massiv durch die Veröffentlichungsgeschwindigkeit chinesischer Akteure unter Druck gesetzt: