Formation Sécurité des LLM et Agents IA | Protéger les applications d’IA générative

• Identifier les principales vulnérabilités des applications utilisant des LLM
• Comprendre les risques spécifiques aux RAG et agents IA
• Identifier et tester les attaques par prompt injection
• Sécuriser les données, outils et actions accessibles à une IA
• Appliquer les bonnes pratiques de sécurité dédiées aux applications GenAI
• Intégrer la sécurité dans le cycle de développement d’une application GenAI

• Experts cybersécurité
• Développeurs
• AI Engineers
• Architectes
• DevSecOps
• Pentesters
• RSSI techniques

• Connaissances générales en cybersécurité
• Compréhension du fonctionnement des LLM
• Notions de développement d’applications IA recommandées

Cette formation Sécurité des LLM et Agents IA | Protéger les applications d’IA générative permet d’identifier, tester et réduire les risques spécifiques aux applications basées sur l’intelligence artificielle générative. Les participants étudient les vulnérabilités rencontrées dans les applications LLM, RAG et agentiques : prompt injection, fuite de données, empoisonnement des connaissances, actions non maîtrisées ou détournement des outils accessibles à un agent.

Comprendre la surface d’attaque des applications GenAI

• Architecture d’une application LLM
• Nouvelles surfaces d’attaque
• Données, prompts, modèles, outils et agents
• Cartographier les risques

Maîtriser les attaques par prompt injection

• Prompt injection directe
• Prompt injection indirecte
• Contournement des instructions
• Manipulation du contexte
• Stratégies de protection

Sécuriser les données et le RAG

• Fuite d’informations sensibles
• Contrôle des sources
• Empoisonnement des connaissances
• Gestion des droits d’accès
• Isolation des données

Sécuriser les agents IA

• Risques liés à l’autonomie
• Contrôle des outils accessibles
• Gestion des permissions
• Limitation des actions
• Human-in-the-loop

Tester la sécurité d’une application GenAI

• Construire des scénarios d’attaque
• Tester les protections
• Introduction au red teaming GenAI
• Journalisation et détection
• Analyser les résultats

Intégrer la sécurité au cycle de vie GenAI

• Sécurité by design
• Guardrails
• Gestion des secrets
• Contrôles avant mise en production
• Surveillance continue
• Bonnes pratiques de sécurité GenAI

Un équilibre pédagogique alliant 40 % théorie et 60 % pratique.

Un questionnaire de positionnement est mis en place en amont de la formation.

L’émargement est réalisé de manière dématérialisée, via une signature numérique.

À l’issue de la formation, chaque participant reçoit l’ensemble des supports pédagogiques, incluant des vidéos et des ressources complémentaires pour approfondir les acquis.

Formation à distance :
Les sessions se déroulent en classe virtuelle via Microsoft Teams. Elles nécessitent un ordinateur équipé d’une caméra, d’un micro, de haut-parleurs ainsi qu’une connexion internet haut débit.

Le lien de connexion est transmis quelques jours avant le début de la formation.

Formation dans nos locaux et assistance disponible : 

Pour toute complication survenant avant, pendant ou après la formation, notre assistance est disponible à partir de 8h30 au +33 (0)6 47 45 07 82 .

Si vous ne parvenez pas à nous joindre par téléphone, merci de nous écrire à formation@neosoft.fr  en spécifiant en quelques mots la difficulté que vous avez rencontrée. Nous vous répondrons dans les plus brefs délais. 

En amont de la formation, un questionnaire de positionnement est adressé aux participants afin d’identifier précisément leurs besoins, leurs attentes et leur niveau de connaissances.

Le formateur évalue la progression pédagogique des participants tout au long de la formation, à travers des quiz, des mises en situation ou des travaux pratiques.

À l’issue de la formation, les participants sont invités à évaluer leur niveau de satisfaction concernant la formation suivie.

Néosoft Training s’appuie sur un processus qualité visant à analyser les éventuels dysfonctionnements remontés par les participants. Cette démarche permet de mettre en œuvre des actions correctives adaptées, tant sur le contenu pédagogique que sur les conditions de déroulement de la formation.