Les banques ont longtemps présenté l'intelligence artificielle comme un moyen d'améliorer leurs performances, de réduire leurs coûts et de détecter plus efficacement les fraudes. Mais le développement de systèmes capables d'effectuer des tâches de manière autonome suscite désormais une attention croissante de la part des autorités de régulation. Selon des informations publiées mardi 13 octobre par Reuters, les superviseurs bancaires américains et européens multiplient les demandes d'informations sur les risques liés à ces technologies.
Leurs interrogations ne portent plus seulement sur la protection des données ou la fiabilité des réponses produites par les modèles d'intelligence artificielle. Elles concernent également la capacité des banques à garder le contrôle de leurs systèmes informatiques lorsqu'une partie des opérations repose sur des logiciels autonomes, susceptibles d'interagir avec d'autres applications et d'exécuter des actions sans intervention humaine à chaque étape.
Des agents autonomes qui changent la nature du risque
Les systèmes traditionnels d'intelligence artificielle sont généralement utilisés pour analyser des données, identifier des anomalies ou assister les salariés dans leurs décisions. Les agents autonomes vont plus loin : ils peuvent organiser une succession d'opérations, utiliser différents outils informatiques et adapter leurs actions en fonction des informations reçues.
Dans le secteur bancaire, de telles capacités pourraient permettre d'automatiser une partie des procédures internes, de traiter plus rapidement certaines demandes ou d'améliorer la surveillance des transactions. Elles soulèvent cependant des questions nouvelles en matière de responsabilité et de sécurité.
Les régulateurs américains, notamment la Réserve fédérale, l'Office of the Comptroller of the Currency et la Federal Deposit Insurance Corporation, interrogent les établissements sur leur utilisation de ces agents, les limites imposées à leur autonomie et les mécanismes permettant de reprendre le contrôle en cas de dysfonctionnement.
Une erreur isolée dans un outil d'assistance n'a pas les mêmes conséquences qu'une défaillance dans un système capable de déclencher plusieurs opérations successives. Le risque dépend notamment des autorisations dont dispose l'agent, de son accès aux données sensibles et des vérifications humaines conservées par l'établissement.
Le scénario d'une panne informatique majeure
En Europe, la Banque centrale européenne et la Banque d'Angleterre s'intéressent particulièrement à la capacité des banques à poursuivre leurs activités en cas de défaillance technologique importante. Les superviseurs demandent aux établissements de prévoir des procédures de reprise suffisamment robustes pour fonctionner même lorsque leurs infrastructures habituelles sont indisponibles.
Certains dispositifs étudiés reposent sur des environnements informatiques indépendants, susceptibles de permettre une restauration des opérations après une panne ou une cyberattaque. Cette approche répond à une préoccupation ancienne du secteur financier, mais l'utilisation croissante de systèmes automatisés rend la question plus sensible.
Les établissements bancaires reposent en effet sur des infrastructures complexes, dans lesquelles les applications de paiement, les systèmes de gestion des risques et les outils de relation client interagissent en permanence. Une défaillance dans une composante essentielle pourrait avoir des répercussions sur plusieurs services.
Les autorités cherchent également à comprendre les dépendances qui se développent entre les banques et les fournisseurs technologiques. Lorsque plusieurs établissements utilisent des infrastructures ou des modèles similaires, une vulnérabilité commune pourrait théoriquement affecter simultanément différents acteurs du secteur.
Une surveillance renforcée avant de nouvelles obligations
À ce stade, les démarches des autorités ne signifient pas nécessairement l'adoption imminente de nouvelles règles spécifiques. Les superviseurs cherchent d'abord à déterminer comment les établissements utilisent ces technologies et si leurs dispositifs de contrôle sont adaptés aux risques identifiés.
Cette méthode reflète la rapidité avec laquelle évolue l'intelligence artificielle. Les usages se développent parfois plus vite que les procédures internes d'évaluation, tandis que les caractéristiques techniques des modèles changent régulièrement.
Le débat traverse également les entreprises qui conçoivent ces systèmes. Dario Amodei, dirigeant d'Anthropic, fait partie des responsables du secteur ayant publiquement alerté sur les risques associés au développement rapide de modèles toujours plus puissants.
