OWASP a publié un Top 10 pour les applications LLM. On a lu la liste avec la perspective d'une équipe TI.
La majorité du cadre s'adresse aux ingénieurs en IA qui construisent des modèles. Mais trois risques s'appliquent à toutes les organisations qui utilisent l'IA, que vous l'ayez construite ou non. Voici ce qu'on pense que vous devriez savoir.
Risque 1 : Divulgation d'information sensible (LLM02)
C'est le risque principal. Données clients, information financière, code source, stratégies internes, tout ça circule dans les outils d'IA et ressort de l'autre côté.
Le danger, ce n'est pas la fuite évidente. C'est le goutte-à-goutte. Un employé colle un contrat dans ChatGPT pour le résumer. Le nom du fournisseur, le prix, les clauses de résiliation, tout se retrouve dans les journaux d'un tiers. Multipliez par des centaines d'employés qui font des choses similaires chaque jour. Vous n'avez pas une brèche. Vous avez une surface d'exposition continue que la plupart des organisations n'ont jamais mesurée.
Ce qu'il faut demander : Quelles données circulent vers les outils d'IA en ce moment ? Pas ce qu'on a approuvé. Ce qui bouge vraiment. Si la réponse est « il faudrait vérifier », c'est ça la réponse.
Risque 2 : Agence excessive (LLM06)
Celui-là s'installe tranquillement. L'agence excessive arrive quand les systèmes d'IA obtiennent plus de permissions qu'ils en ont besoin. Un agent d'IA qui lit votre CRM, écrit dans vos courriels et accède à vos partages de fichiers, c'est pratique. C'est aussi un point unique de compromission.
Le pattern : une équipe active Copilot, Salesforce Einstein ou un agent Slack. Chacun se connecte à des systèmes internes « pour être plus utile ». Six mois plus tard, personne n'a la vue complète. Les permissions se sont accumulées. Personne ne les a auditées.
Ce qu'il faut demander : À quoi vos intégrations d'IA ont-elles vraiment accès ? Si une injection de prompt ou un compte compromis en exploitait une, jusqu'où irait-elle ?
Risque 3 : Vulnérabilités de la chaîne d'approvisionnement (LLM03)
C'est celui auquel la plupart des équipes TI n'ont pas pensé. Et il porte les plus grandes implications en conformité.
Quand vous utilisez un outil d'IA, vous faites confiance à chaque modèle sur lequel il a été bâti, à chaque jeu de données sur lequel il a été entraîné, à chaque module avec lequel il s'intègre. L'outil d'IA est une boîte noire. La chaîne d'approvisionnement derrière est une boîte noire encore plus profonde.
On a déjà vu cette histoire. SolarWinds. Log4j. Un composant de confiance se révèle avoir des dépendances cachées qui introduisent des risques que vous ne saviez pas que vous portiez.
L'angle conformité : La Loi 25, le RGPD et des réglementations similaires exigent que vous sachiez où les données personnelles sont traitées. Si votre outil d'IA fonctionne sur un modèle entraîné avec des données que vous ne pouvez pas auditer, hébergé par un fournisseur avec des sous-traitants que vous ne pouvez pas tracer, vous avez une lacune de conformité dont la plupart des conseils n'ont pas été informés.
L'angle cybersécurité : Des modèles compromis et des modules vulnérables peuvent introduire des risques dans votre environnement en silence. Le rayon d'impact dépend de ce à quoi ces outils sont connectés.
Ce qu'il faut demander : Pour chaque outil d'IA que vous utilisez, savez-vous sur quel modèle il repose, où il est hébergé et à quelles données il touche ? Pourriez-vous répondre à ça pour un auditeur la semaine prochaine ?
Le signal plus large
Prenez du recul. Qu'est-ce que ça veut dire qu'OWASP, l'organisation qui a défini la sécurité applicative moderne, ait décidé que l'IA méritait son propre Top 10 ?
La sécurité de l'IA a franchi un seuil. Elle n'est plus émergente. Elle est opérationnelle. Le cadre existe parce que l'industrie avait besoin d'une façon commune de parler de ces risques.
Les organisations à qui on pose les questions les plus difficiles en ce moment, par les régulateurs, les conseils et les clients, sont celles qui mènent des initiatives d'IA sans réponse claire à « où sont vos contrôles ? » OWASP vous donne la structure. Il n'écrit pas les réponses.
Préoccupé par votre exposition à l'IA ?
Cartographiez où vont vos données sensibles, à quoi vos intégrations d'IA ont accès, et où votre chaîne d'approvisionnement a des lacunes, avec l'aide de nos spécialistes.
Sources :
- OWASP. (2025). OWASP Top 10 for Large Language Model Applications.
- Government of Quebec. (2021). Act to modernize legislative provisions as regards the protection of personal information (Law 25).
- Gartner. (2024). Predicts 2025: Shadow AI Security Breaches Will Affect 40% of Enterprises by 2030.
