3 jours
Perfectionnement / Avancé
Présentiel Classe à distance
Partager
Accueil › Formations › Intelligence Artificielle › Gouvernance, conformité et IA responsable › Sécurité de l'IA › Sécurisation des IA en production
Public concerné
Ingénieurs IA / ML et Data Scientists en production, architectes DevSecOps et responsables sécurité, opérateurs de plateformes IA Cloud ou on-prem, auditeurs et consultants en sécurité des systèmes IA.
Prérequis
Avoir une expérience pratique sur un framework IA (TensorFlow, PyTorch, Scikit-learn) et des connaissances de base en sécurité des applications et en réseau. Etre familier avec les concepts de CI / CD et DevOps.
Objectifs de formation
A l'issue de cette formation, vous serez capable de :
- Cartographier le cycle de vie d'un modèle IA selon MITRE ATLAS et identifier les zones de risque
- Mettre en place des contrôles d'accès et de traçabilité pour chaque phase du pipeline (données, entraînement, inférence)
- Détecter et atténuer les attaques adversariales (empoisonnement, inversion de modèle, évasion) en production
- Intégrer des mécanismes de surveillance continue et d'alerte basés sur des indicateurs de compromission IA (IoCs-IA)
- Elaborer un plan de réponse aux incidents IA incluant rollback, réentraînement et communication aux parties prenantes.
Programme de votre formation
-
#
M2I START AVANT VOTRE FORMATION
Contextualisation du projet de formation et prise en compte des besoins de chacun
- Positionnement initial de l’apprenant par rapport aux objectifs
- Définition des priorités et des objectifs personnels de l’apprenant
- Vidéos de mise en situation
- Accès au Chat interactif myM2i pour interagir avec les membres de son groupe
-
#
M2I LIVE VOTRE FORMATION ANIMÉE PAR NOTRE EXPERT ¹
Programme
Jour 1 - Matin
Cartographie et contrôles d'accès
- Introduction MITRE ATLAS : tactiques et phases (reconnaissance, accès au pipeline, attaques sur le modèle)
- Cartographie d'un pipeline IA interne :
- Flux de données
- Artefacts de modèles
- Points d'inférence
Exemple de travaux pratiques (à titre indicatif)
- Modéliser votre pipeline IA et inventorier les actifs critiques
Jour 1 - Après-midi
Cartographie et contrôles d'accès - Suite
- Contrôles d'accès et traçabilité : gestion des identités (IAM), séparation des environnements DEV/TRAIN/PROD
- Chiffrement des données et des modèles (au repos, en transit)
Exemple de travaux pratiques (à titre indicatif)
- Déployer un mécanisme d'audit sur les appels d'API d'inférence
Jour 2 - Matin
Attaques adversariales et atténuation
- Attaques par empoisonnement de données (Data Poisoning) et par falsification (Data Falsification)
- Détection des anomalies de données à l'entraînement (statistiques, ML-based)
Exemple de travaux pratiques (à titre indicatif)
- Injecter et détecter un cas simple d'empoisonnement de Dataset
Jour 2 - Après-midi
Attaques adversariales et atténuation - Suite
- Attaques d'évasion d'inférence (Evasion Attacks) et inversion de modèle (Model Extraction)
- Contre-mesures :
- Défenses par distillation
- Randomisation
- Evaluation de robustesse (FGSM, PGD)
Exemple de travaux pratiques (à titre indicatif)
- Générer des exemples adversariaux et tester la robustesse du modèle en production
Jour 3 - Matin
Surveillance continue et réponse
- Surveillance des indicateurs de compromission IA (IoCs-IA) : dérive de performance, patterns de requêtes anormales
- Mise en place de dashboards et alertes (logs d'inférence, métriques d'exactitude)
Exemple de travaux pratiques (à titre indicatif)
- Configurer un pipeline de monitoring dans Grafana / Prometheus pour un service IA
Jour 3 - Après-midi
Surveillance continue et réponse - Suite
- Plan de réponse aux incidents IA :
- Rollback de modèle
- Réentraînement sécurisé
- Communication
- Clôture et recommandations pour une gouvernance IA pérenne
Exemple de travaux pratiques (à titre indicatif)
- Exercice guidé : simulation d'un incident de compromission IA et exécution du plan de réponse
Le contenu de ce programme peut faire l'objet d'adaptation selon les niveaux, prérequis et besoins des apprenants.
-
#
M2I BOOST APRÈS VOTRE FORMATION
Réactivation et consolidation des acquis en situation de travail
- 30 jours d’accompagnement personnalisé sur myM2i inclus ²
- Ressources Boosters (Abonnement au M2i’Mag Soft Skills, formations offertes, invitations aux conférences d’actualité…)
- ¹ Les actions et les outils présentés dans ce programme le sont à titre indicatif et peuvent faire l’objet d'adaptation selon les niveaux, prérequis et besoins des apprenants. Les compétences clés de ce programme sont traitées à raison d'une compétence par demi-journée de formation.
- ² Sur myM2i, pendant 30 jours post-fin de formation, les apprenants disposent d’une messagerie sécurisée pour échanger, dans la limite de 4 sollicitations, avec leur formateur.
Modalités, méthodes et moyens pédagogiques
Formation délivrée en présentiel ou distanciel* (blended-learning, e-learning, classe virtuelle, présentiel à distance).
Le formateur alterne entre méthode** démonstrative, interrogative et active (via des travaux pratiques et/ou des mises en situation).
Variables suivant les formations, les moyens pédagogiques mis en oeuvre sont :
- Ordinateurs Mac ou PC (sauf pour certains cours de l'offre Management), connexion internet fibre, tableau blanc ou paperboard, vidéoprojecteur ou écran tactile interactif (pour le distanciel)
- Environnements de formation installés sur les postes de travail ou en ligne
- Supports de cours et exercices
En cas de formation intra sur site externe à M2I, le client s'assure et s'engage également à avoir toutes les ressources matérielles pédagogiques nécessaires (équipements informatiques...) au bon déroulement de l'action de formation visée conformément aux prérequis indiqués dans le programme de formation communiqué.
* nous consulter pour la faisabilité en distanciel
** ratio variable selon le cours suivi
Modalités d’évaluation des acquis
- En cours de formation, par des études de cas ou des travaux pratiques
- Et, en fin de formation, par un questionnaire d'auto-évaluation
Accessibilité de la formation
Le groupe M2I s'engage pour faciliter l'accessibilité de ses formations. Toutes nos formations sont accessibles aux personnes en situation de handicap : les détails de l'accueil des personnes sont consultables sur la page Politique Handicap
Modalités et délais d’accès à la formation
Les formations M2I sont disponibles selon les modalités proposées sur la page programme. Les inscriptions sont possibles jusqu'à 48 heures ouvrées avant le début de la formation. Dans le cas d'une formation financée par le CPF, ce délai est porté à 12 jours ouvrés.
