Sécurité des systèmes d'intelligence artificielle
Sécurité des systèmes d'intelligence artificielle
Objectifs
- Maîtriser le vocabulaire et les concepts principaux des modèles de deep learning modernes.
- Comprendre les risques liés à la compromission d'un système d'IA par un tiers malveillant.
- Préparer et réaliser un audit de sécurité approfondi d'un système d'IA.
- Mettre en place des mesures correctives et des bonnes pratiques de développement pour assurer la
sécurité de ces systèmes.
Le programme de la formation
Jour 1 - Vulnérabilités du modèle
Concepts fondamentaux du deep learning : entraînement et fine-tuning, architectures, jeux de
données, embeddings, ...
Attaques antagonistes
Injection de prompt
Empoisonnement des données d'entraînement
Attaques sur l'apprentissage fédéré
Inversion de modèle
Jour 2 - Vulnérabilités applicatives
Injection via les sorties du modèle
Fuite de données sensibles
Attaques sur la chaîne d'approvisionnement
Élévation de privilèges via le modèle
Attaques sur RAG : fuite de documents, attaques par canal auxiliaire
Jour 3 - Mesures défensives et bonnes pratiques + évaluation
Méthodes de préparation et de restitution d'un audit de sécurité IA
Sécurisation des systèmes d'IA, de la conception jusqu'à la mise en production
Gestes à adopter en cas d'attaque, considérations juridiques et protection des données
Correction des travaux pratiques des jours 1 et 2
Examen de compétences
Public et Pré-requis de la formation
Développeurs, responsables techniques, architectes travaillant sur des projets d'IA. Consultants en cybersécurité souhaitant renforcer leur éventail de compétences.
Expérience en programmation, idéalement liée à l'IA ou la science des données.
Notions de base en sécurité applicative.
Méthode pédagogique de la formation
Cours magistral illustré par des exemples concrets et des démonstrations.
Exercices de mise en pratique sur des environnements réalistes, challenges type Capture The Flag.