Aperçu moduleModule previewVista previa del módulo
Aperçu limité, 3 premières étapesLimited overview, first 3 stepsVisibilidad limitada, 3 primeras etapas

Red teaming pratique : casser un prompt système (sprint)Hands-on red teaming: breaking a system prompt (sprint)Red teaming práctico: romper un prompt de sistema (sprint)

Parcours : Sécurité IA & Red Teaming · AvancéCourse: AI Security & Red Teaming · AdvancedCurso: Seguridad de la IA y red teaming · Avanzado

Red teaming pratique : casser un prompt système (sprint)
1/7
ÉtapeStepEtapa 1 / 7

≈ 15 min

Contexte

Pourquoi attaquer son propre système avant qu’un autre ne le fasse.

Au programme de ce moduleIn this moduleEn el programa de este módulo

  1. 01Contexte≈ 15 min
  2. 02Explication≈ 30 min
  3. 03Démonstration≈ 30 min
  4. 04Cas pratique≈ 20 min
  5. 05Étude de cas≈ 20 min
  6. 06Exercice≈ 35 min
  7. 07Quiz≈ 5 min
Durée totaleTotal durationDuración total≈ 155 min
voix de synthèse

Le red teaming (« équipe rouge », démarche où l’on éprouve délibérément un système pour en trouver les failles) consiste à se mettre dans la peau d’un attaquant, sur SON propre système, dans un cadre autorisé. On ne cherche pas à confirmer que ça marche : on cherche activement à le faire échouer, parce qu’il vaut mieux découvrir une faille en interne qu’en production.

Ce module est un SPRINT pratique : vous allez réellement tenter de « casser » un prompt système défensif, fourni en bac à sable mock. L’archétype pédagogique est le jeu Gandalf de Lakera, un défi public où l’on doit faire révéler à une IA un mot de passe qu’elle a pour consigne de garder secret, niveau après niveau. On en reprend l’esprit (escalade de techniques d’injection contre une cible inoffensive), jamais le contenu.

Cadre défensif et éducatif

Périmètre STRICT : toutes les attaques de ce module s’exécutent sur le système MOCK fourni (un assistant fictif gardant un secret fictif) ou sur VOS propres systèmes de test. Jamais sur un système en production, jamais sur un système tiers, jamais sans autorisation écrite. Ce module enseigne à PROTÉGER en comprenant l’attaque, ce n’est pas une arme clé-en-main.

Objectifs d’apprentissage

À l’issue de ce module, vous saurez Appliquer une méthode de red teaming structurée (catégories d’attaque, escalade, journalisation), Créer des prompts d’injection variés contre une cible mock, et Évaluer la robustesse d’un prompt système par un taux d’échec par catégorie, puis figer chaque faille en cas de test.

Commençons par ce qui fonde la légitimité de cette pratique : l’autorisation. Un test de robustesse n’est pas défini par ce qu’il fait techniquement, mais par le cadre dans lequel il est mené. Les mêmes gestes, conduits sur un système dont vous avez la charge, avec un mandat écrit et un périmètre daté, relèvent de l’ingénierie de sécurité ; conduits sur le système d’un tiers sans accord, ils relèvent d’autre chose. Avant toute séance, vous devez pouvoir produire quatre éléments : qui a autorisé, sur quel système exactement, pendant quelle fenêtre de temps, et qui prévenir si un effet imprévu se produit.

Deuxième point de méthode : ce module enseigne des catégories, pas des recettes. Une catégorie décrit le principe par lequel une défense peut céder, par exemple le fait qu’un contexte fictif dilue une interdiction. C’est le niveau utile pour construire une protection, parce qu’il couvre toutes les formulations présentes et à venir. Une recette, à l’inverse, serait une formulation précise et réutilisable : elle se périme vite, ne fait comprendre aucun mécanisme, et se transmet mal. Vous ne trouverez donc ici aucune charge élaborée prête à copier : les quelques formulations montrées, volontairement génériques, illustrent un mécanisme sur une cible fictive. C’est un choix pédagogique autant qu’un choix éthique.

Troisième point, sur l’état d’esprit. Éprouver son propre système demande de renoncer à un réflexe naturel, celui de chercher la confirmation que tout va bien. Une séance qui se termine par « aucune tentative n’a abouti » est, le plus souvent, une séance mal menée plutôt qu’un système parfait. Le bon critère de fin n’est pas l’absence de faiblesse, c’est l’épuisement des catégories : avez-vous éprouvé chacune d’entre elles, avec plusieurs variantes, avant de conclure ?

Un mot enfin sur ce qui reste après la séance. La valeur d’un exercice de ce type ne tient pas à la faiblesse trouvée, qui sera corrigée en quelques heures, mais au journal produit et aux tests qui en découlent. Une équipe qui teste sans journaliser recommence tout à chaque version ; une équipe qui journalise capitalise, et peut prouver, six mois plus tard, qu’une faiblesse connue ne s’est pas rouverte.

Ce que vous saurez faire

Définir l’oracle d’un test, c’est-à-dire écrire noir sur blanc ce que le système ne doit jamais faire, sans quoi aucun verdict n’est possible. Conduire une séance structurée par catégories, avec escalade et journalisation. Calculer un taux d’échec par catégorie et en déduire où renforcer en priorité. Transformer chaque faiblesse constatée en cas de test rejouable, et poser le cadre d’autorisation écrit qui rend l’exercice légitime.