La faille de sécurité chez Fireworks AI expose les transcripts de chat Notion et les données de facturation

Une violation de la sécurité chez Fireworks AI a entraîné l'exposition de données clients sensibles, y compris des informations de facturation et des jeux de données. L'incident a ensuite touché les clients en aval, Notion confirmant que les transcripts de chat de son service d'IA figuraient parmi les actifs volés.

Ce qui s'est passé

Fireworks AI, une plateforme offrant aux développeurs un accès à de grands modèles de langage ouverts, a confirmé qu'un attaquant avait violé l'infrastructure de son fournisseur cloud. Cette première compromission a permis à l'acteur malveillant d'accéder à un système de développement de Fireworks, ce qui a donné accès à certaines données clients. Dans un avis de sécurité, l'entreprise a déclaré que des cybercriminels avaient exfiltré des informations de facturation et certains jeux de données appartenant à ses clients. Fireworks sert des dizaines de milliers de clients dans le monde entier, notamment des entités notables telles que le cabinet juridique Harvey et l'assistant de codage IA Cursor.

Les effets en cascade de cette attaque sur la chaîne d'approvisionnement ont atteint Notion, l'éditeur de documents en ligne et outil de prise de notes populaire. Notion a révélé qu'environ 1 % de sa propre base de clients était impactée par la violation. Après que Fireworks a alerté Notion sur l'incident de sécurité, Notion a pris des mesures défensives immédiates. Le 3 novembre, l'entreprise a déconnecté ses systèmes de Fireworks, supprimé toutes les données stockées dans ces systèmes et rompu toute connectivité entre les deux plateformes. Notion a ensuite confirmé que les pirates avaient spécifiquement ciblé et volé les transcripts de chat des clients de Notion AI utilisant la fonctionnalité « Insights ».

Notion a clarifié la portée des données exposées, notant que les transcripts incluaient toute entrée ou sortie écrite dans le chat lors des interactions avec le modèle. Cependant, l'entreprise a également souligné une limitation significative du butin des attaquants : une grande partie des données n'était pas attribuable. Il reste flou quels clients spécifiques possédaient quels transcripts, car les journaux volés manquaient souvent d'une identification directe de l'utilisateur. Cet incident marque la deuxième violation de sécurité affectant Fireworks en seulement deux mois, après un précédent incident en octobre.

Détails clés

• Vecteur d'attaque : Les pirates ont violé le fournisseur cloud de Fireworks AI pour accéder à un système de développement.
• Données volées : Informations de facturation client, jeux de données et transcripts de chat Notion AI.
• Impact sur Notion : Environ 1 % des clients de Notion ont été affectés par la fuite de données.
• Chronologie de la réponse : Notion s'est déconnecté de Fireworks et a supprimé les données associées le 3 novembre.
• Motivation de l'attaquant : Fireworks estime que les acteurs sont motivés financièrement, visant à vendre des jetons d'accès LLM volés.
• Récurrence : C'est la deuxième violation chez Fireworks AI en deux mois, la précédente ayant eu lieu en octobre.

Contexte

Cet incident met en lumière les risques inhérents aux chaînes d'approvisionnement logicielles, où les entreprises dépendent de fournisseurs tiers pour leurs fonctionnalités principales. Fireworks AI agit comme intermédiaire, permettant aux développeurs d'intégrer des grands modèles de langage open source dans leurs applications sans gérer eux-mêmes l'infrastructure sous-jacente. Lorsqu'un tel fournisseur est compromis, la posture de sécurité de tous ses clients en aval est potentiellement affaiblie, indépendamment de leurs propres mesures de sécurité internes. On parle alors d'attaque sur la chaîne d'approvisionnement, où les vulnérabilités dans le système d'un fournisseur créent des points d'entrée pour que les attaquants atteignent plusieurs cibles simultanément.

La motivation spécifique citée par Fireworks implique le vol de jetons API ou de identifiants d'accès. Dans l'industrie de l'IA, les ressources de calcul sont coûteuses. Les attaquants volent souvent l'accès à ces modèles pour revendre les droits d'utilisation à des tiers non autorisés. Ces acteurs malveillants peuvent ensuite exécuter des charges de travail IA intensives sans payer la puissance de calcul, épuisant effectivement les ressources de la victime. Cet incitant financier motive de nombreuses attaques récentes contre les fournisseurs d'infrastructure IA, faisant d'eux des cibles de haute valeur pour les groupes de cybercriminels.

Pourquoi cela compte

Pour les équipes qui exploitent leur propre logiciel ou gèrent une infrastructure informatique, cette violation souligne les dépendances cachées dans les stacks technologiques modernes. Même si votre organisation n'utilise pas directement Fireworks AI, vous pouvez compter sur des outils comme Notion, Harvey ou Cursor qui le font. Une vulnérabilité dans un sous-fournisseur peut exposer vos données indirectement. Cette réalité remet en question l'hypothèse selon laquelle choisir des fournisseurs réputés garantit la sécurité des données. Elle oblige les dirigeants informatiques à examiner non seulement leurs fournisseurs directs, mais aussi les fournisseurs dont dépendent ces partenaires, une tâche qui devient de plus en plus complexe à mesure que les services s'interconnectent.

De plus, l'exposition des transcripts de chat soulève d'importantes préoccupations en matière de confidentialité et de conformité. Pour les entreprises utilisant des fonctionnalités IA pour la gestion des connaissances internes ou le support client, ces journaux peuvent contenir des informations propriétaires sensibles ou des données personnelles. Le fait qu'une grande partie des données n'était pas attribuable offre peu de réconfort, car la simple existence des transcripts entre des mains non autorisées crée une responsabilité. Les équipes doivent désormais considérer combien de temps ces données sont conservées par des tiers et si elles ont la capacité de vérifier leur suppression, comme Notion l'a fait en rompant les liens et en effaçant les données stockées.

Ce que vous pouvez faire

• Auditer les dépendances tierces : Cartographiez les services externes dont dépendent vos outils critiques pour le traitement des données ou les fonctionnalités IA.
• Limiter la rétention de données : Configurez les outils IA pour minimiser le stockage des historiques de chat et désactivez les fonctionnalités qui journalisent des entrées ou sorties inutiles.
• Examiner les avis de sécurité des fournisseurs : Abonnez-vous aux mises à jour de sécurité des principaux fournisseurs pour réagir rapidement aux incidents tels que les déconnexions ou les réinitialisations de mot de passe.
• Appliquer des contrôles d'accès stricts : Utilisez l'accès basé sur les rôles pour limiter qui peut activer les fonctionnalités IA ou exporter des données au sein de votre stack logiciel.
• Envisager des alternatives auto-hébergées : Évaluez les options pour héberger le traitement des données sensibles en interne afin de réduire la dépendance aux fournisseurs cloud externes pour les flux de travail critiques.
• Surveiller les activités inhabituelles : Gardez un œil sur les métriques d'utilisation API et les relevés de facturation pour détecter des pics inattendus pouvant indiquer un vol ou une utilisation abusive de jetons.