Formation Sécurité et IA Générative : comprendre et maîtriser les risques liés aux LLMs
Explorez les mécanismes des IA modernes et apprenez à identifier et exploiter les vulnérabilités des LLM à travers un challenge pratique et ludique !
Vue d'ensemble
Aucun prérequis pour la partie théorique (présentation des concepts et des risques).
Pour la phase challenge, une connaissance de base en Python ou en développement web est recommandée pour au moins un membre du binôme.
Objectifs pédagogiques
Programme détaillé
Introduction à l’intelligence artificielle aujourd’hui (30 min)
Notions fondamentales : IA vs Machine Learning, réseaux de neurones, entraînement de modèles
Fonctionnement des applications IA modernes : fine-tuning, déploiement, intégration
Focus sur le RAG (Retrieval-Augmented Generation) : principe et cas d’usage
Nouveaux risques de sécurité liés à l’IA (1h30)
Pourquoi l’IA introduit-elle de nouvelles surfaces d’attaque dans les systèmes d’information ?
Attaques antagonistes : comprendre ce nouveau type de menace ciblant les réseaux neuronaux
Revue des 10 risques majeurs du Top 10 OWASP LLM 2025 :
LLM01 – Injection de prompts
LLM02 – Fuite d’informations sensibles
LLM03 – Vulnérabilités de la chaîne d’approvisionnement
LLM04 – Empoisonnement des données et modèles
LLM05 – Mauvaise gestion des sorties
LLM06 – Capacité d’action excessive
LLM07 – Fuite du prompt système
LLM08 – Faiblesses des vecteurs et embeddings
LLM09 – Dépendance excessive au modèle
LLM10 – Consommation illimitée de ressources
Chaque point est illustré par des scénarios concrets, des exemples d’attaque et des leviers de mitigation.
Challenge pratique (4 à 6h)
Une plateforme interactive avec une douzaine de mini-challenges à réaliser en binôme, accompagnés par le formateur
Chaque défi illustre une ou plusieurs des failles étudiées dans la partie précédente
Classement en temps réel, progression par niveaux de difficulté, accès prolongé après la formation (en option gratuite)
Exemples de challenges :
Prompt injection : forcer le LLM à révéler un mot de passe caché malgré les protections
Injection indirecte : créer un site malveillant pour détourner un service de résumé automatisé
RAG et cloisonnement des données : accéder à des documents censés rester confidentiels
Débriefing final (30 min)
Revue collective des solutions proposées
Explication détaillée des attaques attendues et des mécanismes sous-jacents
Prochaines sessions
Ils nous font confiance
Cette année notre filière Gouvernance, Risques & Conformité (GRC) a accompagné plus de 21 entreprises dont :
Avis des participants
Prévoir l'envoie à chaque particiapnt du livre de CISS au moins un mois avant la formation.
il est top Romain GARCIA
Bonjour, Merci beaucoup pour cette formation IC2 ! Ce fut passionnant, captivé pendant une semaine entière, bravo au formateur ! Le support de présentation était très clair et bien organisé. Il à su s'exprimer sur chaque concept du CISSP, incitant la participation de chaque intervenant.…
Formateur très compétent et disponible. J'aurais aimé passer un peu plus de temps sur la partie enjeux environnementaux et un peu moins sur le TP, mais c'est plutôt un ressenti personnel.
Formateur très agréable, professionnel et pédagogue. Il maîtrise parfaitement son sujet et sait le transmettre avec clarté et enthousiasme. Les exemples et démonstrations étaient pertinents et ont facilité la compréhension.
Votre formateur
Lorcann R.
Formateur IA générative & LLM
Lorcann intervient sur des formations portant sur l’ingénierie des LLM et l’IA générative. Parmi les formations qui lui sont confiées figurent notamment « LangGraph : concevoir des agents IA orchestrés » et « Ollama : déployer et optimiser des LLM en local ». La conception de supports pédagogiques fait également partie de ses activités.
Financement
Cette formation est éligible aux financements OPCO et FNE-Formation. Nos équipes vous accompagnent dans le montage de votre dossier.
Questions fréquentes
Combien de temps dure la formation Sécurité et IA Générative : comprendre et maîtriser les risques liés aux LLMs ?
Cette formation se déroule sur 1 jour.
Quels sont les prérequis pour suivre la formation Sécurité et IA Générative : comprendre et maîtriser les risques liés aux LLMs ?
Aucun prérequis pour la partie théorique (présentation des concepts et des risques). Pour la phase challenge, une connaissance de base en Python ou en développement web est recommandée pour au moins un membre du binôme.
Quel est le prix de la formation Sécurité et IA Générative : comprendre et maîtriser les risques liés aux LLMs ?
En inter-entreprises, elle est à 1 000 € HT par participant ; en intra-entreprise, elle est à 2 200 € HT pour le groupe. Un tarif sur-mesure est également disponible sur devis.
La formation Sécurité et IA Générative : comprendre et maîtriser les risques liés aux LLMs délivre-t-elle une certification ?
Cette formation ne délivre pas de certification. Une attestation de fin de formation vous sera remise à l'issue de la session.
La formation Sécurité et IA Générative : comprendre et maîtriser les risques liés aux LLMs est-elle éligible à un financement OPCO ?
Oui, cette formation est éligible aux financements OPCO et FNE-Formation. Nos équipes vous accompagnent dans le montage de votre dossier.
Choisissez votre formation
Mon contact chez SPARKS est professionnel et très réactif. Les échanges sont simples, efficaces, et la collaboration se déroule dans d'excellentes conditions.