L'Agence nationale de la sécurité des systèmes d'information (ANSSI) a publié des recommandations spécifiques pour sécuriser les systèmes d'IA générative, en insistant sur l'importance de la sécurité tout au long du cycle de vie des projets d'IA.
Ces recommandations visent à sensibiliser les entreprises et les administrations aux risques particuliers liés à l'IA générative et à promouvoir les bonnes pratiques pour une mise en œuvre sécurisée.
Le document de l'ANSSI souligne l'importance de la gestion des interactions internes et externes, de la sécurité des données, et de la protection contre les attaques adverses.
Chaque phase de développement, de l'entraînement jusqu'au déploiement, nécessite des mesures de sécurisation spécifiques adaptées aux risques encourus.
Processus de Sécurité pour le Développement de GenAISafety selon les Phases
Phase | Description | Recommandations de l'ANSSI |
1. Définition du Problème | Identification des défis liés à la sécurité et des besoins spécifiques en matière de SSE. GenAISafety définit clairement les cas d’usage, les réglementations concernées, et la portée des résultats attendus. | Mener une analyse de risque précoce pour identifier les menaces spécifiques à l'IA générative, notamment les attaques par empoisonnement des données ou exfiltration des informations【36†source】. |
2. Investigation des Données | Collecte des données relatives au domaine, étiquetage, et analyse préliminaire. Cela comprend la vérification de la légitimité des données et l'évaluation de leur conformité aux normes SSE. | Évaluer le niveau de confiance des sources de données externes pour éviter l’empoisonnement ou les vulnérabilités des données collectées【36†source】. |
3. Préparation des Données | Nettoyage, formatage, et structuration des données pour l’entraînment des modèles. Les données sont évaluées et préparées avec des mesures spécifiques de protection de la confidentialité. | Prendre en compte la confidentialité des données à toutes les étapes pour éviter les fuites d'information lors de l'entraînment【36†source】. |
4. Développement | Implémentation des modèles LLM avec intégration de techniques avancées comme la Retrieval-Augmented Generation (RAG) pour une meilleure précision. Utilisation de la méthodologie Scrum pour les améliorations itératives. | Appliquer les principes de DevSecOps tout au long du projet pour assurer un développement sécurisé, en utilisant des chaînes CI/CD durcies et la gestion sécurisée des secrets【36†source】. |
5. Tests et Évaluation | Utilisation de techniques de pentesting et d'audits de sécurité pour évaluer la robustesse du modèle. Cela inclut des tests d'attaques adverses pour identifier les vulnérabilités potentielles avant le déploiement. | Réaliser des audits de sécurité avant le déploiement pour garantir la protection contre les attaques adverses et vérifier la résilience des systèmes【36†source】. |
6. Déploiement | Mise en production des LLM dans des environnements sécurisés avec surveillance continue pour évaluer la performance et la sécurité. Implémentation d’un mode dégradé sans IA pour pallier à tout dysfonctionnement. | Cloisonner chaque phase du cycle de vie dans des environnements dédiés et prévoir un mode dégradé pour assurer la continuité des services en cas de problème avec l'IA【36†source】. |
7. Surveillance et Mise à Jour | Surveillance continue de la performance du modèle, mise à jour régulière pour rester conforme aux évolutions réglementaires et aux meilleures pratiques émergentes. | Journaliser toutes les interactions et réponses du système d'IA pour garantir la traçabilité et permettre des audits complets【36†source】. |
Ce tableau offre une vue d’ensemble des étapes de développement chez GenAISafety, en intégrant les recommandations de l’ANSSI pour garantir la sécurité, l’intégrité et la conformité des modèles d’IA.
<
SafeEval est un algorithme spécialement conçu pour évaluer et optimiser la performance des modèles de langage (LLM) dans des environnements industriels sensibles, en particulier dans le domaine de la santé et sécurité au travail (SST). Il combine des méthodes avancées pour garantir la qualité, la robustesse, et la sécurité des prédictions et recommandations émises par ces modèles, tout en assurant la protection des données sensibles et la conformité aux régulations locales et internationales, comme la Loi 25 au Québec et le RGPD en Europe.
L'approche de GenAISafety met l'accent sur la philosophie "sécurité par conception", en s’assurant que chaque étape de la conception et du développement tienne compte des considérations de sécurité, de protection des données et de conformité à des réglementations strictes.
Cette approche préventive est cruciale pour la fiabilité des LLM dans des secteurs aussi critiques que la Santé, la Sécurité et l'Environnement.
Comments