Agents IA négociateurs : Anthropic sonde des avocats, le web se ferme

Anthropic travaille à des agents IA capables de négocier au nom des utilisateurs : marchander un prix, régler une réclamation ou améliorer l'offre d'un contrat. Selon le Financial Times, cité par The Decoder, l'entreprise consulte des cabinets d'avocats pour définir des normes de négociation équitables.

Le risque d'inégalités

La question de l'équité n'est pas théorique. Anthropic a montré dans des expériences que les modèles les plus puissants obtiennent de meilleurs accords. Si chacun délègue ses négociations à une IA, l'écart entre ceux qui disposent d'un modèle performant et les autres pourrait donc se creuser, ce qui risque d'accentuer les inégalités sociales, souligne The Decoder.

Des juristes pour combler un manque de données

L'entreprise recrute aussi des « Conceptual Reasoning Fellows », notamment des avocats. Pendant quatre mois, ils testeront Claude sur des questions de jugement en droit, philosophie, sciences cognitives, économie et science politique, pour une rémunération de 100 000 à 167 000 dollars.

La raison tient à un problème de données. En mathématiques et en programmation, les réponses sont vérifiables, donc les données abondent. En sciences humaines, le bon et le mauvais sont rarement tranchés. Anthropic a besoin d'experts pour construire des cas de test et des évaluations. Justin Curl, chercheur sur le droit, les institutions et l'IA chez Anthropic, juge qu'en droit la qualité est « notoirement difficile à définir » (traduction), d'après The Decoder.

Un web qui se ferme aux agents

Reste à savoir où ces agents pourront agir. The Verge rapporte que de nombreux services bloquent les agents IA. Yelp n'autorise que ceux qui paient son programme de licence de données. Delta Air Lines les empêche de réserver des billets. JPMorgan Chase et Charles Schwab disent les bloquer pour des raisons de sécurité. Amazon a banni l'outil d'achat de Perplexity l'an dernier et l'a poursuivi en justice. Une cour d'appel a annulé en août la décision qui l'interdisait, et Amazon a déposé une plainte modifiée.

Les systèmes antibots peuvent aussi gêner les agents sans les viser. « Ces agents IA déclenchent les mêmes protections », observe Chris Canal, PDG de l'évaluateur de sécurité EquiStamp (The Verge, traduction). Selon lui, ces blocages réduisent l'utilité perçue des agents, y compris ceux d'Anthropic et d'OpenAI : « il y a simplement moins de choses utiles que les agents peuvent faire » (traduction).

Meta a choisi la voie des partenariats, avec Walmart, Gap, Sephora ou Best Buy, et Shopify ouvre ses boutiques aux agents. Les sources ne précisent pas à quelle échéance les agents négociateurs d'Anthropic pourraient voir le jour.