Anthropics Sicherheitsteam berichtet, dass ein günstigeres, frei verfügbares KI-Modell innerhalb eines Tages einen funktionierenden Hack für zwei bereits bekannte Software-Fehler gebaut hat – für ganze 20,40 Dollar. Der Preis zeigt, wie erschwinglich echte Cyberangriffe inzwischen für jeden mit Zugang zu diesem Modell geworden sind.
Was tatsächlich passiert ist
Laut Anthropics Frontier Red Team nutzte ein Forscher GLM-5.3-Flash, das kleinere Open-Weight-Modell des chinesischen Unternehmens Zhipu AI, um eine zuverlässige Exploit-Kette für zwei bereits öffentlich bekannte Schwachstellen zu bauen. Die Arbeit kostete zu Zhipus API-Preisen 20,40 Dollar. Dem Bericht des Teams zufolge brauchte es dafür 20 Minuten menschliche Aufmerksamkeit und 8 Stunden Arbeit des Modells. Unabhängig davon hat Floridas Generalstaatsanwalt bei einem Gericht beantragt, OpenAI zu untersagen, ChatGPT Minderjährigen in Florida anzubieten, solange seine Klage gegen das Unternehmen läuft. Dieser Punkt ist einer von sechs Verboten in einem 49-seitigen Antrag auf eine einstweilige Verfügung, der am 28. September elektronisch eingereicht wurde. Über keinen der sechs Punkte hat ein Gericht bislang entschieden.
Wie es dazu kam
Exploit-Ketten brauchen normalerweise geschulte Spezialisten und tagelange Handarbeit. Anthropics Test zeigt, dass sich diese Lücke schließt. Die beiden verwendeten Schwachstellen waren bereits öffentlich bekannt, es existierten also Patches – trotzdem verwandelte ein günstiges Modell sie in einen funktionierenden Angriff. Floridas Antrag ist keine neue Klage, sondern ein Vorgang innerhalb eines Verfahrens, das der Generalstaatsanwalt des Bundesstaats bereits gegen OpenAI angestrengt hat. Er bittet einen Richter darum, den Zugang Minderjähriger zu pausieren, bevor über den Fall entschieden ist. Keine der beiden Geschichten endet mit einer fertigen Regel. Beide zeigen Institutionen, die versuchen, etwas einzuholen, das sich bereits bewegt.
Warum das für dich wichtig ist
Für alle, die Software betreiben, gilt: Eine bekannte Lücke ist nicht mehr sicher, nur weil irgendwo ein Patch existiert. Günstige KI-Werkzeuge bedeuten, dass Angreifer handeln können, bevor die meisten Nutzer überhaupt aktualisieren. Für Entwickler lautet die Lehre: schnell patchen und davon ausgehen, dass jemand die alte Lücke bereits testet. Für Eltern und Teenager in Florida ändert sich vorerst nichts. Der Antrag ist eine Bitte, kein Urteil – der ChatGPT-Zugang für Minderjährige im Bundesstaat bleibt bestehen, bis ein Richter entscheidet. Wer KI-Produkte für Kinder nutzt, sollte mit weiteren solchen Auseinandersetzungen in weiteren Bundesstaaten rechnen, bevor sich die Regeln setzen.
Die größere Frage
IT-Sicherheit ging lange davon aus, dass das Patchen einer bekannten Lücke Zeit verschafft, bevor jemand sie ausnutzt. Wenn ein frei verfügbares Modell zwei bereits offengelegte Schwachstellen für 20,40 Dollar in einen funktionierenden Angriff verwandeln kann, wie viel von dieser Annahme hält dann noch stand – und wer soll die Lücke schließen, wenn der Preis für einen Angriff für fast jeden mit Internetzugang so tief gefallen ist?
Was als Nächstes zu beobachten ist
Für Floridas Antrag auf eine einstweilige Verfügung steht noch kein Gerichtstermin fest. Die Entscheidung steht weiterhin aus. Anthropics Bericht sagt nicht, ob dieselbe Exploit-Kette künftig auch gegen größere Modelle oder andere Anbieter getestet wird. Wer verfolgen will, wie schnell bekannte Lücken zu echten Angriffen werden, sollte sowohl auf das nächste Update des Frontier Red Teams von Anthropic achten als auch auf die Entscheidung des Richters in Floridas Fall – je nachdem, was zuerst kommt.
