Fireworks-AI-Leck legt Chat-Protokolle und Rechnungsdaten von Notion-Kunden offen

Ein Sicherheitsverstoß bei Fireworks AI hat zur Offenlegung sensibler Kundendaten geführt, einschließlich Rechnungsinformationen und Datensätzen. Der Vorfall wirkte sich anschließend auf nachgelagerte Kunden aus, wobei Notion bestätigte, dass Chat-Protokolle seines KI-Dienstes zu den gestohlenen Assets gehörten.

Was passiert ist

Fireworks AI, eine Plattform, die Entwicklern Zugang zu offenen großen Sprachmodellen bietet, bestätigte, dass ein Angreifer die Infrastruktur des Cloud-Anbieters kompromittiert hatte. Dieser erste Einbruch ermöglichte es dem Bedrohungsakteur, auf ein Entwicklungssystem von Fireworks zuzugreifen, das wiederum Zugriff auf bestimmte Kundendaten gewährte. In einer Sicherheitsempfehlung erklärte das Unternehmen, dass Cyberkriminelle Rechnungsinformationen und bestimmte Datensätze seiner Kunden exfiltriert hätten. Fireworks bedient weltweit Zehntausende von Kunden, darunter namhafte Unternehmen wie das Legal-Tech-Unternehmen Harvey und den KI-Coding-Assistenten Cursor.

Die Kaskadeneffekte dieses Lieferkettenangriffs erreichten Notion, den beliebten Online-Dokumenteneditor und Notizdienst. Notion gab bekannt, dass etwa 1 % des eigenen Kundenstamms von dem Verstoß betroffen war. Nachdem Fireworks Notion über den Sicherheitsvorfall informiert hatte, ergriff Notion sofortige defensive Maßnahmen. Am 3. November trennte das Unternehmen seine Systeme von Fireworks, löschte alle in diesen Systemen gespeicherten Daten und kappte jede Verbindung zwischen den beiden Plattformen. Notion bestätigte später, dass die Hacker gezielt Chat-Protokolle von Notion-AI-Kunden gestohlen hatten, die die Funktion „Insights“ nutzten.

Notion präzisierte den Umfang der offengelegten Daten und wies darauf hin, dass die Protokolle jegliche Eingaben oder Ausgaben enthielten, die während der Modellinteraktionen im Chat geschrieben wurden. Das Unternehmen hob jedoch auch eine wesentliche Einschränkung der Beute der Angreifer hervor: Ein Großteil der Daten war nicht zuordenbar. Es bleibt unklar, welche spezifischen Kunden welche Protokolle besaßen, da die gestohlenen Logs in vielen Fällen keine direkte Benutzeridentifikation enthielten. Dieser Vorfall markiert den zweiten Sicherheitsverstoß bei Fireworks innerhalb von nur zwei Monaten, nachdem es im Oktober bereits einen früheren Vorfall gegeben hatte.

Wichtige Details

• Angriffsvektor: Hacker kompromittierten den Cloud-Anbieter von Fireworks AI, um auf ein Entwicklungssystem zuzugreifen.
• Gestohlene Daten: Kundenrechnungsinformationen, Datensätze und Notion-AI-Chat-Protokolle.
• Auswirkung auf Notion: Etwa 1 % der Kunden von Notion waren von der Datenlecks betroffen.
• Reaktionszeitplan: Notion trennte sich am 3. November von Fireworks und löschte die damit verbundenen Daten.
• Motiv der Angreifer: Fireworks geht davon aus, dass die Akteure finanziell motiviert sind und versuchen, gestohlene LLM-Zugangs-Token zu verkaufen.
• Wiederholung: Dies ist der zweite Verstoß bei Fireworks AI innerhalb von zwei Monaten; der vorherige ereignete sich im Oktober.

Hintergrund

Dieser Vorfall unterstreicht die Risiken, die inhärent in Software-Lieferketten bestehen, bei denen Unternehmen auf Drittanbieter für Kernfunktionen angewiesen sind. Fireworks AI fungiert als Vermittler und ermöglicht es Entwicklern, Open-Source-große Sprachmodelle in ihre Anwendungen zu integrieren, ohne die zugrunde liegende Infrastruktur selbst verwalten zu müssen. Wenn ein solcher Anbieter kompromittiert wird, ist die Sicherheitslage aller nachgelagerten Kunden potenziell geschwächt, unabhängig von ihren eigenen internen Sicherheitsmaßnahmen. Dies ist als Lieferkettenangriff bekannt, bei dem Schwachstellen im System eines Anbieters Einstiegspunkte für Angreifer schaffen, um mehrere Ziele gleichzeitig zu erreichen.

Das spezifische Motiv, das von Fireworks angeführt wird, betrifft den Diebstahl von API-Token oder Zugangsdaten. In der KI-Branche sind Rechenressourcen teuer. Angreifer stehlen oft den Zugang zu diesen Modellen, um Nutzungsrechte an unbefugte Dritte weiterzuverkaufen. Diese böswilligen Akteure können dann intensive KI-Workloads ausführen, ohne für die Rechenleistung zu bezahlen, und verbrauchen effektiv die Ressourcen des Opfers. Dieser finanzielle Anreiz treibt viele aktuelle Angriffe auf KI-Infrastrukturanbieter voran und macht sie zu lohnenden Zielen für Cyberkriminellengruppen.

Warum es wichtig ist

Für Teams, die eigene Software betreiben oder IT-Infrastrukturen verwalten, unterstreicht dieser Verstoß die versteckten Abhängigkeiten in modernen Tech-Stacks. Selbst wenn Ihre Organisation Fireworks AI nicht direkt nutzt, verlassen Sie sich möglicherweise auf Tools wie Notion, Harvey oder Cursor, die dies tun. Eine Schwachstelle bei einem Sub-Anbieter kann Ihre Daten indirekt offenlegen. Diese Realität stellt die Annahme infrage, dass die Wahl seriöser Anbieter die Datensicherheit garantiert. Sie zwingt IT-Führungskräfte dazu, nicht nur ihre direkten Anbieter, sondern auch die Anbieter, auf die diese Partner sich verlassen, genau zu prüfen – eine Aufgabe, die zunehmend komplex wird, je mehr Dienste miteinander verknüpft sind.

Darüber hinaus wirft die Offenlegung von Chat-Protokollen erhebliche Datenschutz- und Compliance-Bedenken auf. Für Unternehmen, die KI-Funktionen für internes Wissensmanagement oder Kundensupport nutzen, können diese Logs sensible proprietäre Informationen oder personenbezogene Daten enthalten. Die Tatsache, dass ein Großteil der Daten nicht zuordenbar war, bietet wenig Trost, denn allein die Existenz der Protokolle in unbefugten Händen schafft Haftungsrisiken. Teams müssen nun abwägen, wie lange solche Daten von Dritten gespeichert werden und ob sie die Möglichkeit haben, deren Löschung zu überprüfen, so wie Notion es durch die Trennung der Verbindungen und das Löschen gespeicherter Daten tat.

Was Sie tun können

• Drittanbieter-Abhängigkeiten auditieren: Kartieren Sie, welche externen Dienste Ihre kritischen Tools für die Datenverarbeitung oder KI-Funktionen nutzen.

• Datenaufbewahrung begrenzen: Konfigurieren Sie KI-Tools so, dass die Speicherung von Chat-Historien minimiert wird, und deaktivieren Sie Funktionen, die unnötige Eingaben oder Ausgaben protokollieren.

• Sicherheitshinweise der Anbieter prüfen: Abonnieren Sie Sicherheitsupdates wichtiger Anbieter, um schnell auf Vorfälle wie Trennungen oder Passwort-Resets reagieren zu können.

• Strenge Zugriffssteuerungen durchsetzen: Nutzen Sie rollenbasierte Zugriffe, um zu begrenzen, wer KI-Funktionen aktivieren oder Daten innerhalb des Software-Stacks Ihrer Organisation exportieren kann.

• Self-Hosted-Alternativen in Betracht ziehen: Prüfen Sie Optionen zur internen Hosting sensibler Datenverarbeitung, um die Abhängigkeit von externen Cloud-Anbietern für kritische Workflows zu reduzieren.

• Auf ungewöhnliche Aktivitäten überwachen: Achten Sie auf API-Nutzungsmetriken und Rechnungsstellung auf unerwartete Spitzen, die auf Token-Diebstahl oder Missbrauch hindeuten könnten.