Shadow AI coding : le risque invisible qui menace les banques
Le code généré hors contrôle expose banques et fintechs à des failles difficiles à tracer. L’IA-BOM promet de la visibilité, sans supprimer le risque.
Le « shadow AI coding » désigne l’usage non déclaré d’assistants d’IA par les développeurs, avec un risque de failles, de dépendances inconnues et de fuite de données. Pour les banques et fintechs, l’IA-BOM peut améliorer la traçabilité, mais DORA, l’AI Act et le Cyber Resilience Act maintiennent la responsabilité sur l’entreprise.
Un prompt optimisé est pré-rempli pour chaque moteur. Les résultats générés par l'IA peuvent différer du contenu original.
Selon Journal du Net, l’adoption d’assistants d’intelligence artificielle par les développeurs fait émerger un risque encore mal encadré : le shadow AI coding. Des salariés utilisent des outils génératifs sans validation de leur entreprise, y compris pour produire ou corriger du code sensible. Pour les banques et les fintechs, l’enjeu est majeur : une faiblesse logicielle peut affecter des paiements, des données personnelles ou des systèmes critiques (Journal du Net).
Du shadow IT au code généré hors contrôle
Le phénomène prolonge le shadow IT, c’est-à-dire l’utilisation de services numériques non approuvés par la direction informatique. La différence tient à la nature du contenu produit. Une suggestion issue d’un modèle peut être intégrée directement dans une application, parfois sans indication de son origine.
Les risques dépassent la simple erreur de programmation. Ils comprennent :
- l’introduction de vulnérabilités ou de dépendances obsolètes ;
- la transmission de code propriétaire ou de données confidentielles à un fournisseur externe ;
- des incertitudes sur les licences et la propriété intellectuelle ;
- une dépendance accrue envers quelques grands fournisseurs d’IA.
Les outils d’analyse de code et les Software Bills of Materials, ou SBOM, recensent déjà les composants logiciels. Ils n’identifient cependant pas toujours les modèles, versions ou assistants ayant participé au développement.
L’IA-BOM améliore la traçabilité, pas la sécurité seule
L’IA-BOM vise à compléter cet inventaire. Elle peut documenter les modèles utilisés, leur fournisseur, leur version, les équipes concernées et les contrôles appliqués. Cette visibilité faciliterait les audits, la réponse à incident et le remplacement d’un outil compromis.
Mais le dispositif conserve plusieurs faiblesses. Il dépend de déclarations fiables et d’une instrumentation technique homogène. Un développeur peut contourner les outils autorisés. Un extrait généré puis modifié devient également difficile à attribuer. Enfin, il n’existe pas encore de standard universellement adopté pour l’IA-BOM. Un inventaire ne remplace donc ni la revue humaine, ni les tests de sécurité, ni l’analyse des dépendances.
Les offres professionnelles de GitHub Copilot, GitLab Duo ou Amazon Q Developer proposent des mécanismes d’administration et de contrôle différents. Les modèles déployés en interne peuvent limiter certains transferts de données, mais augmentent les coûts d’exploitation et ne suppriment pas les erreurs de génération.
DORA impose déjà une responsabilité aux acteurs financiers
Dans la finance européenne, DORA s’applique depuis le 17 janvier 2025. Le règlement renforce la gestion des risques liés aux technologies, les tests de résilience et la surveillance des prestataires informatiques (Commission européenne). Le recours discret à un assistant d’IA peut fragiliser cette chaîne de contrôle.
L’AI Act ajoute des obligations progressives sur la gouvernance des systèmes d’IA. Tous les assistants de programmation ne relèvent toutefois pas automatiquement de la catégorie des systèmes à haut risque. Le Cyber Resilience Act renforce parallèlement les exigences applicables aux produits comportant des éléments numériques (Union européenne). Aucun de ces textes ne transfère la responsabilité de l’entreprise vers le fournisseur du modèle.
La gouvernance devra dépasser l’inventaire
Les établissements financiers devront combiner outils autorisés, filtrage des extensions, analyse automatisée, revue humaine et journalisation de la provenance. Les contrats avec les fournisseurs devront préciser la conservation des requêtes, l’utilisation des données et les responsabilités en cas d’incident.
Une question reste ouverte : jusqu’où tracer le code généré sans instaurer une surveillance disproportionnée des développeurs ? L’IA-BOM apporte une base utile. Elle risque cependant de devenir un simple exercice de conformité si les contrôles ne couvrent pas aussi les usages clandestins et la qualité réelle du code.
Correction
Une première version de cet article affirmait que l’ampleur du phénomène et son coût n’étaient pas communiqués.
L’article a été corrigé.