Agents IA : les grandes banques américaines ferment la porte

Le jeudi 22 octobre, Axios a rapporté que de grandes banques américaines détectaient des agents d'intelligence artificielle tiers à l'intérieur de comptes clients. Plusieurs établissements, dont Morgan Stanley, JPMorgan, Bank of America et Citi, seraient en train de leur interdire l'accès à leurs plateformes. Les sources divergent sur l'ampleur réelle du phénomène.

Des agents difficiles à distinguer

D'après New Republic, qui relaie Axios, certains agents agiraient de façon autonome, en effectuant des actions que l'utilisateur n'avait ni demandées ni automatisées. Les banques réécrivent aussi leurs conditions d'utilisation pour limiter l'usage de l'IA. Un dirigeant cité par Axios reconnaît qu'il est difficile de distinguer un agent autorisé d'un agent « devenu incontrôlable ».

Selon PYMNTS, qui cite Reuters, les banques détectent et suppriment ces agents. Le patron de Charles Schwab, Rick Wurster, indique en bloquer un nombre à deux chiffres chaque semaine. Jamie Dimon (JPMorganChase) affirme que les agents extérieurs n'entreront pas dans la banque. Brian Moynihan (Bank of America) veut un humain dans la boucle pour valider toute sortie d'argent. Citigroup assure ne laisser aucun agent tiers se connecter ni transiger. Ces quatre établissements interdisent les mouvements de fonds par agent, mais tolèrent des fonctions en lecture seule, comme la consultation des soldes.

TechCrunch nuance le tableau : il ne s'agit pas forcément d'agents voyous qui pillent des comptes. Des clients délèguent de plus en plus de tâches financières à des services automatisés. Le problème de fond serait que la plupart des banques ne savent pas si l'activité détectée répond à une demande de l'utilisateur. Des banquiers interrogés par Axios jugent la situation « horrifiante ». Un porte-parole de Chase rappelle que les clients « ne devraient donner leurs identifiants à personne » (traduction).

Démentis et assurances publiques

Tous les établissements ne confirment pas. Morgan Stanley a déclaré à American Banker n'avoir « observé aucun cas d'agent IA non autorisé ou malveillant ». Selon ce média, Axios précisait par ailleurs, d'après des sources anonymes, que certaines banques avaient connaissance d'accès autorisés.

Le même jour, le contrôleur de la monnaie, Jonathan Gould, a tenté de rassurer sur Fox Business. « Les banques s'en occupent depuis des mois, elles renforcent leurs défenses et utilisent aussi l'IA comme défense contre ces agents », a-t-il dit (traduction, American Banker). Interrogé à deux reprises par l'animateur sur le remboursement d'un client dont un agent non autorisé aurait viré des fonds, il n'a pas précisé comment ces cas seraient réglés. Il n'a pas non plus réfuté que des intrusions avaient eu lieu.

Le contexte technique est tendu. Gould s'exprimait un jour après la divulgation de failles critiques dans PHP, baptisées PHP2Shell, découvertes en août par Wiz Research et Calif. Un correctif a été déployé mercredi, mais American Banker note que des acteurs malveillants pourraient déjà les avoir exploitées.

Délégation encadrée ou interdiction

Les dirigeants reconnaissent que des clients veulent utiliser leurs propres agents. Lors des résultats du 15 octobre, William Demchak, patron de PNC, a jugé qu'une transaction par agent dans un compte était « incroyablement dangereuse » et « n'arrivera pas ». Il a ajouté : « Pour que cela se produise, il faudra des lois sur le transfert de responsabilité. Cela passera par des connexions sécurisées, de l'authentification et un humain dans la boucle » (traduction, PYMNTS). Gunjan Kedia, de U.S. Bancorp, n'avait de son côté rencontré aucun agent qui déplace automatiquement l'argent vers de meilleurs taux et n'en attend pas d'effet à court terme.

Côté outils, 1Password a lancé le 22 octobre « 1Password for Agents ». L'agent s'identifie par une clé numérique, l'utilisateur confirme la connexion, puis le gestionnaire saisit les identifiants sans que l'agent ne les voie. Le service fonctionne avec plusieurs agents, dont ceux d'Anthropic, d'OpenAI, de Meta ou de la start-up Town.

Le chercheur Gary Marcus y voit, sur son blog, un signal d'alarme : les modèles actuels suffisent selon lui à causer des dégâts, et la régulation ne devrait pas se limiter aux modèles de pointe. Il s'agit d'une opinion, pas d'un constat établi.

Axios évoque enfin des scénarios du « jour d'après » pour rétablir rapidement l'accès des clients. Aucun calendrier de nouvelles règles n'a été communiqué.