Saturday, Nov 21 | --:--
Zur Startseite

Prime Intellect: Eindringling lieferte 53 Stunden DeepSeek-Modell ohne Ablehnungen aus

Prime Intellect hat am 19. November offengelegt, dass ein Unbefugter ein Deployment hinter seinem Endpunkt deepseek/deepseek-v4.1-flash durch eine öffentlich verfügbare „abliterated“ Kopie ersetzt hat, die so verändert wurde, dass sie keine Anfragen mehr ablehnt, und zwar vom 8. November, 01:24 Uhr UTC, bis zum 10. November, 06:35 Uhr UTC. Laut den Tests des Unternehmens blieben die Leistungswerte unverändert, während die Ablehnungen bei JailbreakBench von 98 von 100 Prompts auf 1 fielen. Es habe keine Hinweise gefunden, dass Prompts oder Antworten den Serving-Cluster verlassen hätten, und hat nicht mitgeteilt, wie der Angreifer eindrang. Am selben Tag veröffentlichte Dragos eine Studie mit Köderdaten, wonach Daten bei drei KI-Anbietern offengelegt wurden.

4 Min. Lesezeit San Francisco Als Markdown anzeigen
Eine handgefertigte redaktionelle Collage auf eingerissenem elfenbeinfarbenem Papier in Ultramarin und Safrangelb: Ein dickes marineblaues Brett verläuft als Regal quer durchs Bild und trägt eine Reihe von sieben identischen, abgerundeten Papiergläsern in Ultramarin und Elfenbein mit schlichten, unbeschrifteten Seiten; sechs sind mit passenden ultramarinblauen Deckeln verschlossen, das vierte trägt einen nicht passenden, übergroßen safrangelben Deckel; ein offizielles Prime-Intellect-Logo (schwarz eingefärbt) links und ein offizielles DeepSeek-Logo rechts kleben jeweils auf eingerissenen Papierausschnitten, deren Oberkanten unter die Unterkante des Regals geschoben sind, beide Logos sind vollständig sichtbar.

Ein gehostetes Modell kann seine Benchmark-Werte behalten und trotzdem ein anderes Modell sein. Prime Intellect, das Open-Weight-Modelle über seine Inferenzplattform bereitstellt, teilt mit, ein Unbefugter habe ein Deployment hinter seinem Endpunkt deepseek/deepseek-v4.1-flash rund 53 Stunden lang durch eine „abliterated“ Kopie ersetzt, also eine, die so verändert wurde, dass sie Anfragen seltener oder gar nicht mehr ablehnt, und zwar vom 8. November, 01:24 Uhr UTC, bis zum 10. November, 06:35 Uhr UTC. Anfragen von Kunden beantwortete in diesem Zeitraum das veränderte Modell.

Das Detail, das jeden beunruhigen sollte, der Inferenz bei Dritten einkauft, steckt in Prime Intellects eigenen Tests: Die Leistungswerte bewegten sich nicht, das Sicherheitsverhalten verschwand dagegen nahezu vollständig.

Was Prime Intellect offengelegt hat#

In der Sicherheitsmitteilung PI-SA-2026-001, veröffentlicht am 19. November, schreibt das Unternehmen, für den Austausch seien öffentlich verfügbare „abliterated“ Gewichte desselben Modells verwendet worden; Chat-Vorlage, Tokenizer und Serving-Konfiguration seien nicht verändert worden. Bei den Leistungsbenchmarks GPQA Diamond und τ-bench zeigten die veränderten Gewichte in den Tests des Unternehmens keine Abweichungen. Die Ablehnungen fielen bei JailbreakBench von 98 von 100 Prompts auf 1, bei StrongREJECT von 304 von 313 auf 2 und bei HarmBench von 198 von 240 auf null.

Prime Intellect gibt an, alle betroffenen Kunden kontaktiert zu haben, und empfiehlt allen, deren Nutzung darauf angewiesen war, dass das Modell Anfragen ablehnt, die Ausgaben aus diesem Zeitraum zu überprüfen. Es habe keine Hinweise darauf gefunden, dass Prompts oder Antworten aufgezeichnet wurden oder den Serving-Cluster verließen, keinen Zugriff über diesen Cluster hinaus und keine Änderungen an anderen Modellen; Schlüssel oder Zugangsdaten von Kunden seien nicht betroffen. Die Endpunkte liefen ohne jede Datenspeicherung, und man habe sämtliche Versionen des Proxys des Angreifers sichergestellt. Die Untersuchung dauert an; die Mitteilung sagt nicht, wie der Angreifer sich Zugang verschaffte oder wer er war.

Eine zweite Warnung am selben Tag#

Am selben Tag veröffentlichte HD Moore, Forschungschef von Dragos, die Ergebnisse einer fünfmonatigen Studie, für die das Unternehmen zwischen Juli und November rund zwei Millionen Prompts mit eindeutigen URLs und Köder-Zugangsdaten an verbreitete KI-Dienste schickte. Dragos gibt an, Belege dafür gefunden zu haben, dass Daten von mindestens drei KI-Anbietern offengelegt wurden: Mit den präparierten Prompts sei versucht worden, auf die Testsysteme des Unternehmens und auf AWS-Köderkonten zuzugreifen, und keiner der drei Anbieter habe von dem Leck gewusst, bis Dragos ihn informierte. Im größten Fall hätten Angreifer ein paar Hundert AWS-Schlüssel von Dragos gestohlen und damit Zehntausende AWS-API-Aufrufe über die Köderkonten hinweg ausgeführt.

Dragos berichtet zudem, Wiederverkäufer auf einem Marktplatz für KI-Inferenz hätten mit Standardprotokollierung Kunden-Prompts einsehen und speichern können, und einige Anbieter hätten Datenschutzeinstellungen offenbar nicht beachtet, darunter Vorgaben zur Nullspeicherung. Namen von Anbietern nennt Dragos nicht.

Es handelt sich um getrennte Offenlegungen, und Dragos stellt keinen Zusammenhang zwischen seinen Ergebnissen und Prime Intellect her. Zusammen beschreiben sie dieselbe Schwachstelle: die Strecke zwischen Kunde und Modell. Anfang dieses Monats reichte das Datenleck bei Fireworks AI bis zu Kundendaten, und Railway bezifferte die unbefugte Nutzung gestohlener KI-Schlüssel auf rund 740.000 Dollar.

Unsere Einschätzung: Die Zahlen von Prime Intellect zeigen, warum Leistungstests das falsche Frühwarnsignal sind. Ein Kunde, der den Endpunkt nur mit Prüfungen nach Art von GPQA testete, hätte nichts bemerkt; ein fester Satz von Testanfragen zum Ablehnungsverhalten hätte den Austausch aufgedeckt.

Einschränkungen#

  • Die Darstellung des Vorfalls, die Testergebnisse und der Befund, dass keine Prompts den Cluster verlassen haben, stammen allesamt aus Prime Intellects eigener Sicherheitsmitteilung; einen unabhängigen forensischen Bericht haben wir nicht gefunden.
  • Prime Intellect hat weder den Zugangsweg noch den Angreifer noch die Zahl der betroffenen Kunden offengelegt.
  • Die Ergebnisse von Dragos stammen aus eigener Forschung und nennen keine Anbieter; wir haben sie nicht überprüft.

Quellen#

Frühere Berichte

Bisherige Berichterstattung von Times of AI zu diesem Thema.