Capacités & limites : hallucinations, biais, fraîcheurCapabilities & limits: hallucinations, bias, freshnessCapacidades y límites: alucinaciones, sesgos, actualidad
Parcours : Fondamentaux de l'IA & IA Générative · DécouverteCourse: AI & Generative AI Fundamentals · FoundationCurso: Fundamentos de la IA y la IA generativa · Iniciación

≈ 6 min
Contexte
Pourquoi un LLM peut être brillant ET se tromper avec aplomb.
Au programme de ce moduleIn this moduleEn el programa de este módulo
- 01Contexte≈ 6 min
- 02Explication≈ 8 min
- 03Démonstration≈ 7 min
- 04Cas pratique≈ 5 min
- 05Étude de cas≈ 5 min
- 06Exercice≈ 13 min
- 07Quiz≈ 5 min
Un LLM produit toujours une réponse plausible, y compris quand il n’a pas l’information. C’est le phénomène d’« hallucination » : une affirmation fausse, énoncée avec la même assurance qu’une affirmation vraie. Savoir la repérer, et connaître les quatre autres limites structurelles (biais, fraîcheur, confidentialité, coût), est LA compétence qui sépare l’utilisateur professionnel de l’utilisateur naïf.
Objectifs d’apprentissage
À l’issue de ce module, vous saurez Comprendre l’origine des hallucinations et des biais, Identifier les limites de fraîcheur, de confidentialité et de coût, Détecter des hallucinations dans des sorties fournies, et Évaluer le niveau de risque d’une tâche avant de la déléguer.
La difficulté n’est pas qu’un assistant se trompe : tous les outils se trompent. La difficulté est qu’il se trompe sans changer de ton. Une référence inventée arrive dans la même phrase bien construite qu’une référence exacte, avec le même vocabulaire assuré. Aucun indice de forme ne vous aide, ce qui rend le réflexe de vérification impossible à confier à l’intuition : il faut une règle écrite.
Les cinq limites du module ne se ressemblent pas et ne se traitent pas de la même façon. Les hallucinations se réduisent par le cadrage de la demande et par la fourniture des sources. Les biais se traitent par une relecture ciblée sur tout ce qui concerne des personnes. La fraîcheur se traite en fournissant soi-même l’information récente. La confidentialité se traite en amont, par le choix de l’outil et par ce que vous acceptez d’y saisir. Le coût se traite par la concision et le cadrage du format.
Ce module ne cherche pas à vous rendre méfiant, mais calibré : savoir quelles tâches vous pouvez confier avec une relecture légère, lesquelles demandent une double vérification, et lesquelles ne se confient pas du tout en l’état.
Les trois questions à se poser devant toute sortie
- Cette affirmation est-elle vérifiable, et par quelle source ?
- Concerne-t-elle une personne, un groupe de personnes, ou une décision les affectant ?
- Aurait-il fallu une information plus récente que ce que l’outil peut connaître ?
Ce qu’il faut en retenir
Pour tout ce qui touche des données personnelles ou une décision affectant des personnes, le sujet relève du cadre européen : du RGPD dès que des données personnelles sont traitées, et du règlement (UE) 2024/1689 dit AI Act, dont les obligations dépendent du système d’IA et de son niveau de risque. Ce module ne dit pas ce que ces textes exigent : il vous apprend à repérer les cas concernés et à les faire arbitrer par un juriste.