Saturday, Nov 21 | --:--
Zur Startseite

Amazon: KI-Agenten von Angreifern fanden Zero-Day in MONAI Label, Patch steht noch aus

Amazon Threat Intelligence zufolge haben KI-Agenten, die ein mutmaßlich mit China verbundener Akteur über das Open-Source-Framework Cairn steuerte, in MONAI Label, einer Open-Source-KI-Anwendung für die medizinische Bildgebung, eine bis dahin unbekannte Path-Traversal-Schwachstelle (Zero-Day) gefunden und sie im September genutzt, um sich auf einem Universitätsserver eine Root-Shell zu verschaffen. Die als kritisch eingestufte Sicherheitsmitteilung der Maintainer nennt für Version 0.8.5 und ältere keine korrigierte Version; der Fix ist in den Code eingepflegt, aber nicht veröffentlicht, und 0.8.5 war bei unserer Prüfung am 21. November weiterhin die neueste Version auf PyPI. Die Zuordnung stammt von Amazon, das sie mit mittlerer Konfidenz vornimmt.

5 Min. Lesezeit Seattle Als Markdown anzeigen
Eine handgefertigte redaktionelle Collage auf eingerissenem elfenbeinfarbenem Papier in Kobaltblau und Zinnoberrot: Ein hohes Blatt aus blassblauer Papierfolie hängt aufrecht an einer einzelnen Metallklammer an einem kurzen Holzzapfen, in der Mitte von einem langen senkrechten Schlitz durchtrennt; drei weiche Motten aus Papierschnitt mit rundlichen, pelzigen Körpern, breiten, flaumigen Flügeln und gefiederten Fühlern gleiten am Schlitz entlang und durch ihn hinaus, eine schwebt bereits nach unten, während unten rechts ein unbenutzter, gefalteter blassblauer Papierflicken noch in seiner geöffneten Packung liegt; ein offizielles Amazon-Logo klebt auf einem eingerissenen Papierausschnitt, dessen Oberkante unter die eingerissene Unterkante der Folie geschoben ist, die einen weichen Schatten auf den Ausschnitt wirft; das Logo ist vollständig sichtbar; ein zinnoberroter Schnipsel in der äußersten Ecke.

Für Verteidiger ist an Amazons Bericht nicht entscheidend, dass ein KI-Agent eine Schwachstelle gefunden hat, sondern dass die gefundene Schwachstelle noch offen ist. Amazon Threat Intelligence zufolge haben KI-Agenten, die ein mutmaßlich mit China verbundener Akteur über Cairn steuerte, ein Open-Source-Framework für autonome Penetrationstests, eine Zero-Day-Lücke in MONAI Label entdeckt, einer Open-Source-KI-Anwendung für die medizinische Bildgebung, und sie genutzt, um die vollständige Kontrolle über einen Universitätsserver zu übernehmen. Die Maintainer haben im Oktober einen Fix eingepflegt, eine Version mit diesem Fix ist aber noch nicht erschienen.

Was nach Amazons Darstellung geschah#

In einem am 20. November veröffentlichten Beitrag schreibt Amazons Chief Information Security Officer CJ Moses, Amazon habe am 10. September eine öffentlich erreichbare Cairn-Instanz entdeckt, die ohne Authentifizierung lief. Weil sie offen war, ließen sich die Projektkonfigurationen und Prompts des Akteurs sowie die Ausgaben der Agenten einsehen. Nach Amazons Angaben richtete sich die Kampagne ab dem 8. September rund 48 Stunden lang gegen IP-Adressen von Universitäten in Ostasien außerhalb Festlandchinas; das Ziel, das der Akteur den Agenten vorgab, lautete „Shell-Zugriff erlangen“.

Beim Ziel MONAI Label identifizierten die Agenten laut Amazon das Framework, kartierten dessen API, fanden einen Upload-Endpunkt mit einem Parameter für den Dateinamen und testeten ihn auf Path Traversal. In rund 11 Minuten gelangten sie vom Kartieren der API dahin, beliebige Dateien auf den Server zu schreiben. In einer späteren Sitzung nutzten sie dieselbe Lücke, um eine Python-Reverse-Shell zu platzieren, die mit Root-Rechten lief. Amazon schätzt nach eigenen Angaben „mit hoher Konfidenz“ ein, dass es sich um eine Zero-Day-Lücke handelte, weil es keinen früheren Fix, kein Issue, keine Sicherheitsmitteilung und keinen Datenbankeintrag dazu fand.

Nicht überall kamen die Agenten hinein. Amazon beschreibt rund 16 Stunden und 148 aufeinanderfolgende Aktionen gegen einen offenen Redis-Server einer Universität sowie einen Credential-Spraying-Lauf mit mehr als 30.000 Kombinationen gegen einen GPU-Server einer Universität, beide ohne Erfolg. Nachdem die Zero-Day-Lücke gefunden war, verschaffte der Akteur den Agenten laut Amazon über einen Proxy Zugang zum Netz einer zweiten Universität, deren Server dieselbe Software betrieb; Amazon folgert, dass der Akteur die Lücke dort bereits genutzt hatte.

Amazon ordnet die Aktivität mit mittlerer Konfidenz einem mit China verbundenen Akteur zu und verweist auf Prompts in vereinfachtem Chinesisch, Zeitstempel in chinesischer Standardzeit in Skripten und die Auswahl der Ziele. Die betroffenen Organisationen seien keine AWS-Kunden gewesen, und Amazon habe sie gemeinsam mit einem staatlichen Partner benachrichtigt. The Register berichtete am 20. November auf Grundlage von Moses’ Bericht dasselbe.

Die Lücke ist weiterhin offen#

Die Sicherheitsmitteilung zu MONAI Label, GHSA-qc22-rmgc-vg94, die als kritisch eingestuft und am 18. November veröffentlicht wurde, besagt, dass der Endpunkt PUT /datastore/image eine vom Aufrufer übergebene Bild-ID ohne Prüfung verwendet; ein Wert mit ../ kann daher eine hochgeladene Datei an jeden Ort schreiben, an dem der MONAI-Label-Prozess Schreibrechte hat. Das könne dazu führen, dass sich aus der Ferne beliebiger Code ausführen lässt. Die Authentifizierung ist standardmäßig ausgeschaltet, sodass in der Standardkonfiguration jeder, der den Server erreichen kann, die Lücke ausnutzen kann; bei eingeschalteter Authentifizierung genügt die Rolle ANNOTATOR.

Als betroffen nennt die Mitteilung die Versionen 0.8.5 und älter; eine korrigierte Version nennt sie nicht, und der in Pull Request #1915 eingepflegte Fix werde „in der nächsten Version von MONAI Label enthalten sein“. Bei unserer Prüfung auf PyPI am 21. November war 0.8.5 weiterhin die neueste Version. Bis eine neue Version erscheint, nennt die Mitteilung folgende Workarounds: die Authentifizierung einschalten und die Rolle ANNOTATOR nicht an nicht vertrauenswürdige Nutzer vergeben, Server aus nicht vertrauenswürdigen Netzen heraushalten und den Server unter einem Benutzer ohne besondere Rechte betreiben, der nur in seinen Datenspeicher schreiben darf. Weil die Ausnutzung dokumentiert ist, rät VentureBeat Administratoren zudem, nach Spuren einer früheren Kompromittierung zu suchen, denn das Einschalten der Authentifizierung macht eine solche nicht rückgängig.

Behauptungen und Prüfungen#

Das Verhalten der Agenten, die Zeitangaben und die Zuordnung beruhen auf Amazons Darstellung von Protokollen, die das Unternehmen auf dem offen zugänglichen Server des Angreifers eingesehen hat; eigene unabhängige forensische Aufzeichnungen liegen uns nicht vor. Die Schwachstelle selbst bestätigen die Maintainer in ihrer eigenen Sicherheitsmitteilung; darin heißt es, das Problem sei ursprünglich über ein AWS-Konto für die Meldung von Sicherheitslücken gemeldet worden.

Cairn ist in unserer Berichterstattung schon früher aufgetaucht: Reuters und NorForge beschrieben, wie ein einzelner Akteur mit Cairn in mehr als 100 Unternehmenswebsites eindrang, und Googles Gruppe für Bedrohungsanalyse meldete die erste vollständig automatisierte Exploit-Pipeline, die sie beobachtet hatte. Unsere Einschätzung: Mit dem Fall Amazon verschiebt sich die Frage davon, ob Agenten neue Schwachstellen finden können, hin zu der Frage, wie lange ein Fix danach braucht, um bei den Nutzern anzukommen. Hier wartete der Fix im Code rund einen Monat auf eine Version, und er wartet noch immer.

Einschränkungen#

  • Die Darstellung der Kampagne, die Angabe von 11 Minuten und die Zuordnung zu einem mit China verbundenen Akteur stammen von Amazon; Amazon bewertet seine Zuordnung mit mittlerer Konfidenz.
  • Amazon sagt nicht, wie viele MONAI-Label-Server online erreichbar sind oder ob andere Akteure die Lücke genutzt haben.
  • Die Mitteilung enthält in ihrer veröffentlichten Fassung, wie wir sie gelesen haben, weder eine CVE-Kennung noch einen CVSS-Wert; wir zitieren die GHSA-Kennung.
  • Amazons Beitrag erschien erstmals am 20. November, vor dem Berichtszeitraum dieser Ausgabe; wir nehmen ihn auf, weil die beschriebene Lücke am 21. November noch in keiner veröffentlichten Version behoben war.

Quellen#

Frühere Berichte

Bisherige Berichterstattung von Times of AI zu diesem Thema.