Garantir la confidentialité et l’intégrité des modèles de langage
L’ANSSI (Agence nationale de la sécurité des systèmes d’information) a publié un guide détaillé pour sécuriser la mise en œuvre de l’intelligence artificielle générative, en particulier les modèles de langage de grande taille (LLM). Ce document fournit des recommandations clés pour protéger la confidentialité des données traitées et l’intégrité des systèmes d’information, face aux nouvelles menaces induites par le déploiement de ces technologies dans les entreprises publiques et privées.
Points clés
- L’IA générative, et notamment les LLM, offrent de nouvelles perspectives dans l’organisation du travail, mais soulèvent aussi de nouveaux enjeux de sécurité
- Le guide de l’ANSSI couvre les principales phases du cycle de vie d’un système d’IA générative : entraînement, déploiement et production opérationnelle
- Différents scénarios d’attaques sont identifiés, visant à perturber le fonctionnement du système (attaques adverses) ou à dérober les données traitées (attaques par exfiltration)
- La protection des données d’entraînement est un enjeu essentiel, tout comme la sécurisation des interactions avec d’autres applications du système d’information
- Des recommandations spécifiques sont formulées pour des cas d’usage comme l’assistance à la génération de code source par l’IA
- L’ANSSI préconise d’intégrer la sécurité dès la conception des systèmes d’IA générative et d’appliquer les principes du développement sécurisé (DevSecOps)
À retenir
Face à l’essor de l’IA générative, les entreprises doivent impérativement se doter de mesures de sécurité adaptées pour protéger leurs données sensibles. Les recommandations de l’ANSSI constituent un guide précieux pour sécuriser ces technologies émergentes et éviter les dérives liées aux attaques adverses ou aux fuites d’informations. Reste maintenant à espérer que les acteurs du marché de l’IA sauront les appliquer avec diligence, sans quoi les risques pourraient bien l’emporter sur les bénéfices de ces innovations.
Sources
