Agents IA : les 7 principes de l’ANSSI concernent aussi les DPO
L’ANSSI publie 7 principes de sécurité pour les agents IA. Pour les DPO, leur architecture engage aussi la protection des données et la conformité au RGPD.
Selon le Journal du Net, l’ANSSI publie 7 principes de sécurisation des agents d’intelligence artificielle. Pour les banques et fintechs, leur déploiement appelle un travail conjoint des RSSI et des DPO : limiter les accès et encadrer les actions contribue à protéger les données des clients, sans suffire à garantir la conformité au RGPD.
Un prompt optimisé est pré-rempli pour chaque moteur. Les résultats générés par l'IA peuvent différer du contenu original.
Selon le Journal du Net, l’Agence nationale de la sécurité des systèmes d’information (ANSSI) publie 7 principes pour sécuriser les agents d’intelligence artificielle. Destiné aux responsables de la sécurité des systèmes d’information (RSSI), ce travail concerne aussi les délégués à la protection des données (DPO). L’enjeu dépasse la cybersécurité : les choix d’architecture conditionnent également la protection des données personnelles.
Des logiciels capables d’agir sur les systèmes
Un agent IA peut être conçu pour consulter des documents, appeler des outils ou exécuter des actions dans un logiciel. Cette capacité d’intervention distingue son usage de celui d’une interface limitée à la production de réponses. Dans une banque ou une fintech, elle peut concerner, par exemple, l’assistance aux équipes ou le traitement de demandes clients.
Le périmètre des accès devient alors déterminant. Un agent autorisé à consulter un dossier ne présente pas les mêmes risques qu’un agent capable de le modifier ou de transmettre son contenu. La sécurité dépend donc autant des permissions accordées que du modèle utilisé. Ces exemples illustrent les enjeux d’architecture, sans constituer une restitution des principes de l’ANSSI.
Le RGPD intervient dès la conception
Le rapprochement entre RSSI et DPO repose sur des obligations existantes. Le RGPD impose une protection des données dès la conception et par défaut. Il prévoit aussi des mesures de sécurité adaptées au risque. Ces exigences s’appliquent aux traitements de données personnelles, y compris lorsqu’ils mobilisent des agents IA (source : RGPD, articles 25 et 32).
Des responsabilités complémentaires
Le RSSI évalue notamment les risques d’intrusion, de détournement et de compromission. Le DPO conseille l’organisme sur ses obligations et contrôle le respect du cadre applicable aux données personnelles. Leurs travaux se rejoignent sur plusieurs questions opérationnelles :
- Les données accessibles sont-elles nécessaires à la tâche confiée ?
- Les droits de consultation et d’action sont-ils proportionnés à cette tâche ?
- Les mécanismes de contrôle permettent-ils de détecter un usage détourné ?
Ces questions ne sont pas une liste supplémentaire de prescriptions attribuées à l’ANSSI. Elles traduisent, pour les acteurs financiers, l’articulation entre sécurité technique et conformité.
La sécurité technique ne vaut pas conformité globale
Un agent correctement protégé contre les attaques ne rend pas automatiquement licite le traitement qu’il exécute. La finalité, la base légale et la minimisation des données restent des exigences distinctes. Lorsqu’un traitement est susceptible d’engendrer un risque élevé pour les personnes, une analyse d’impact doit être réalisée avant sa mise en œuvre (source : RGPD, articles 5, 6 et 35).
Pour les banques et les fintechs, l’intérêt opérationnel est d’associer les fonctions sécurité et protection des données avant le déploiement. Le point décisif sera la traduction des principes en droits d’accès, contrôles et procédures effectivement appliqués. Pour les clients, cette discipline doit réduire les risques d’accès injustifié à leurs informations et d’actions inappropriées sur leurs dossiers.