Aperçu moduleModule previewVista previa del módulo
Aperçu limité, 3 premières étapesLimited overview, first 3 stepsVisibilidad limitada, 3 primeras etapas

Menaces des LLM : le panorama OWASP LLM Top 10LLM threats: the OWASP LLM Top 10 landscapeAmenazas de los LLM: el panorama OWASP LLM Top 10

Parcours : Sécurité IA & Red Teaming · AvancéCourse: AI Security & Red Teaming · AdvancedCurso: Seguridad de la IA y red teaming · Avanzado

Menaces des LLM : le panorama OWASP LLM Top 10
1/7
ÉtapeStepEtapa 1 / 7

≈ 15 min

Contexte

Pourquoi une application qui embarque un LLM ouvre une surface d’attaque inédite.

Au programme de ce moduleIn this moduleEn el programa de este módulo

  1. 01Contexte≈ 15 min
  2. 02Explication≈ 30 min
  3. 03Démonstration≈ 25 min
  4. 04Cas pratique≈ 20 min
  5. 05Étude de cas≈ 20 min
  6. 06Exercice≈ 25 min
  7. 07Quiz≈ 5 min
Durée totaleTotal durationDuración total≈ 140 min
voix de synthèse

Brancher un grand modèle de langage (LLM, « large language model », modèle de langage entraîné sur de vastes corpus) dans une application ne se résume pas à appeler une interface de programmation (API). Vous introduisez un composant qui interprète du langage naturel, y compris du langage hostile glissé dans des données que vous croyiez inoffensives. La sécurité applicative classique (injection SQL, contrôle d’accès) reste nécessaire, mais elle ne couvre pas ces nouvelles failles.

Fil rouge du parcours : « Calame », une ETI fictive de 700 personnes (services numériques), déploie un assistant interne et un chatbot client. Chaque module éprouve un maillon de ce système, d’abord les menaces (modules 1 à 3), puis l’attaque contrôlée (module 4), puis la défense (module 5) et enfin l’alignement (module 6).

Le projet OWASP (« Open Worldwide Application Security Project », organisation à but non lucratif de référence en sécurité applicative) publie un Top 10 dédié aux applications LLM : une liste consensuelle des dix risques les plus critiques. C’est notre boussole pour ce module.

Objectifs d’apprentissage

À l’issue de ce module, vous saurez Comprendre la structure du OWASP LLM Top 10 (vulnérabilités du modèle vs vulnérabilités de l’application), Analyser à quel maillon d’une application chaque risque apparaît, et Évaluer la surface d’attaque d’un cas métier en la mappant sur le Top 10.

Une précision de posture, avant toute chose. Ce parcours forme des équipes à éprouver LEURS propres systèmes, dans un cadre autorisé par écrit. Tout ce que vous y apprendrez sert à repérer une faiblesse avant qu’un tiers ne la trouve, à la documenter, puis à la corriger. À aucun moment il ne s’agit de produire un mode d’emploi réutilisable contre le système d’autrui : les exercices se déroulent soit sur le bac à sable fictif fourni, soit sur un système dont vous avez la responsabilité.

Pourquoi commencer par un panorama plutôt que par une technique précise ? Parce que la première erreur des équipes qui découvrent la sécurité des systèmes d’IA est de se focaliser sur la faille la plus médiatisée, l’injection de prompt, en négligeant tout le reste. Or une application qui embarque un modèle échoue rarement en un seul point : elle échoue parce qu’une entrée non maîtrisée rencontre une sortie exécutée sans contrôle, sur un composant qui avait trop de pouvoir. Le panorama sert à voir la chaîne entière avant de zoomer sur un maillon.

Deuxième raison : un panorama partagé donne un vocabulaire commun. Tant que chacun décrit les risques avec ses propres mots, les réunions de sécurité tournent au débat d’opinion et les angles morts passent inaperçus. Dès que l’équipe peut dire « c’est une divulgation d’informations aggravée par un excès d’autonomie », la discussion porte sur la mesure à prendre, plus sur la définition du problème. C’est exactement la fonction d’une taxonomie : transformer une intuition en constat vérifiable par un collègue.

Troisième raison : le panorama structure la priorisation. Aucune organisation ne traite dix risques de front. Ce module vous apprend à ranger ces dix entrées selon deux paramètres propres à votre système, son exposition (qui peut lui parler ?) et son pouvoir (que peut-il faire ?), pour décider ce qui se traite cette semaine et ce qui attend le trimestre suivant.

Ce que vous saurez faire

Nommer les grandes familles du panorama OWASP dédié aux applications LLM et dire où chaque faille se loge dans la chaîne de traitement. Classer un incident sous plusieurs entrées à la fois, au lieu de lui chercher une case unique. Décomposer une application de votre organisation en quatre briques (entrée, traitement, sortie, pouvoirs) et produire une liste de risques ordonnée par criticité, défendable devant un responsable sécurité.