Informatique
5$/h – Sécurisation des applications utilisant l’IA générative
Objectif
À la fin de la formation, le participant sera capable de :
- comprendre la nature spécifique des vulnérabilités propres aux applications LLM
- identifier les dix catégories de risques du référentiel OWASP LLM 2025 et leurs manifestations concrètes
- reconnaître les vecteurs d’attaque adversariale contre les systèmes d’intelligence artificielle
- sélectionner les contre-mesures techniques et organisationnelles appropriées à chaque vulnérabilité
- évaluer la posture de sécurité d’une application LLM existante.
Contenu du cours
Module 1 – Surface d’attaque des applications LLM (3 h)
- Pourquoi les LLM créent une nouvelle classe de vulnérabilités : non-déterminisme,absence de séparation native entre instructions et données, contexte stochastique
- Comparaison avec les vulnérabilités applicatives traditionnelles
- Présentation du cadre OWASP Top 10 LLM 2025 et de sa généalogie
- Ouverture sur MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems).
Module 2 – Vulnérabilités d’entrée et d’interaction (3 h)
- Prompt injection directe, indirecte et multimodale (LLM01)
- Sensitive information disclosure (LLM02)
- System prompt leakage (LLM07)
- Étude de cas : CVE-2024-5184 (assistant courriel LLM compromis) et incidents documentés sur les assistants d’entreprise.
Module 3 – Vulnérabilités de sortie et de chaîne d’approvisionnement (3 h)
- Insecure output handling (LLM05)
- Supply chain (LLM03)
- Data and model poisoning (LLM04)
- Vector and embedding weaknesses dans les architectures RAG (LLM08)
- Implications spécifiques pour les bases techniques sensibles.
Module 4 – Vulnérabilités systémiques et agentiques (3 h)
- Excessive agency (LLM06)
- Misinformation et hallucinations (LLM09)
- Unbounded consumption (LLM10)
- Risques propres aux agents autonomes : tool calling, frameworks d’agents, protocole Model Context Protocol (MCP)
- Ouverture sur les nouveautés MITRE ATLAS 2025 dédiées aux agents.
Module 5 – Stratégies de mitigation et gouvernance (3 h)
- RAG triad : context relevance, groundedness, answer relevance
- Séparation des contenus de confiance
- Validation sémantique et filtrage des sorties
- Principe du moindre privilège appliqué aux agents
- Red teaming adversarial
- Cartographie complète des contre-mesures par vulnérabilité
- Articulation avec ISO/IEC 42001 et NIST AI 600-1.