L'ESSENTIEL EN 30 SECONDES
- Le 24 octobre, un attaquant a exploité un incident chez un fournisseur cloud hébergeant les machines de R&D de Fireworks pour atteindre ses systèmes de développement ; c'est le deuxième incident depuis début octobre.
- Fireworks dit que des données de facturation, des métadonnées et, pour certains clients, des jeux de données, des poids de modèles inachevés et des secrets ont été consultés ; il attribue l'attaque à un groupe de « LLMjacking » motivé par l'argent.
- Notion affirme que des conversations liées à sa fonction Insights et à un programme de test bénévole ont été exposées pour moins de 1 % des espaces de travail, malgré un engagement contractuel de non-conservation des données.
Fireworks AI, plateforme qui permet aux développeurs d'exécuter des modèles à poids ouverts, a confirmé un deuxième incident de sécurité en deux mois, et Notion a reconnu que des données de certains de ses utilisateurs étaient concernées. TechCrunch a révélé le 12 novembre que des pirates avaient obtenu des transcriptions de conversations d'utilisateurs de Notion AI.
Ce que dit Fireworks
Dans un bulletin de sécurité mis à jour le 9 novembre, Fireworks explique qu'un fournisseur cloud tiers hébergeant ses machines de recherche et développement a subi un incident le 23 octobre. Le lendemain, un acteur non autorisé s'en est servi pour atteindre des machines de développement de Fireworks et y lancer sa propre charge de travail. Elle dit l'avoir détectée le jour même. Le fournisseur n'est pas nommé.
Cette mise à jour élargit le périmètre d'un incident signalé une première fois dans un bulletin du 9 octobre, selon lequel des secrets utilisés pour des tâches d'évaluation avaient été consultés. Fireworks cite désormais les données de compte et de facturation (adresses, factures, soldes, consommation de crédits) et des métadonnées de ressources, ainsi que des jeux de données, des poids de modèles inachevés et des secrets pour un nombre limité de comptes. Elle précise ne pas stocker les numéros de carte et n'avoir constaté, à ce stade, aucun impact sur ses produits d'inférence, Training SDK et Nexus. Fireworks a fait appel à l'unité 42 de Palo Alto Networks et prévenu les forces de l'ordre.
L'entreprise relie l'attaque à un groupe criminel motivé par l'argent qui pratique le « LLMjacking » : obtenir un accès à des modèles de langage pour en revendre les jetons à des passerelles illicites. Google et Mandiant avaient alerté sur ce type d'attaque une semaine plus tôt, rappelle BleepingComputer.
Les données de Notion
Selon Notion, Fireworks lui a indiqué que moins de 1 % de ses espaces de travail étaient touchés. Les données exposées sont des transcriptions de conversations Notion AI, soit les entrées et sorties du modèle écrites dans le chat, issues de la fonction Insights, qui classe l'usage de l'IA pour les administrateurs, et de bénévoles de son programme Learning and Early Access. L'audio et les transcriptions de réunions ne sont pas concernés, sauf s'ils ont été collés dans une conversation. Notion souligne que Fireworks s'était engagé contractuellement à ne conserver aucune donnée, mais que celles des points d'accès utilisés par Notion ont bien été gardées.
Le 3 novembre, Notion a coupé sa connexion à Fireworks, supprimé ses données chez ce prestataire, arrêté ses entraînements et désactivé Insights. Elle a contacté les clients concernés et recommande de changer tout mot de passe ou clé d'API collé dans Notion AI. D'après TechCrunch, Notion indique qu'une grande partie des données ne peut être rattachée à un client précis.
