Anthropic invite ses évaluateurs à domicile, en gardant la main sur la gomme

Anthropic a annoncé le jeudi 15 octobre 2026 qu'elle accordait un « accès de type employé » à une équipe de METR, organisation à but non lucratif qui évalue les modèles d'IA de pointe. Six personnes de METR ont été intégrées, avec ordinateurs fournis par l'entreprise, bureaux et outils internes. METR publiera ses analyses, sans que son hôte puisse s'y opposer.

Un accès large, mais borné

Selon Anthropic, les outils et systèmes mis à disposition sont à peu près équivalents à ceux de ses propres équipes d'évaluation des risques. Quelques catégories restent fermées : données clients, informations couvertes par le secret professionnel entre avocat et client, et architecture des modèles.

Le point central est le droit de publication. « Anthropic ne peut pas opposer de veto à la publication, mais nous pouvons exiger qu'ils retirent des informations relevant de catégories étroites et prédéfinies », écrit l'entreprise (traduction) (Anthropic). METR peut commenter publiquement ces retraits et dire s'il les juge justifiés, sans divulguer les contenus supprimés.

L'équipe travaille sous accords contraignants. Les autres employés de METR, y compris les chercheurs qui collaborent avec Anthropic sur d'autres projets, sont tenus à l'écart de ses travaux. Selon CNBC, Anthropic ne finance pas le travail de METR.

Anthropic justifie la démarche par un constat : elle ne peut pas rendre publiques toutes les informations liées à sa sécurité, car certaines pourraient servir à des acteurs malveillants ou relèvent du secret commercial, comme les données de calcul et d'entraînement. Elle compare le dispositif aux examinateurs résidents que les régulateurs placent dans les plus grandes banques, tout en reconnaissant que l'analogie est imparfaite.

Trois niveaux d'accès

METR est pour l'instant le seul évaluateur du niveau le plus élevé d'un système que l'entreprise est en train de bâtir. D'après TechCrunch, le niveau inférieur couvre des revues ciblées soumises à l'accord d'Anthropic avant publication. Le niveau intermédiaire donne plus d'informations et permet de publier sans approbation. Le troisième ajoute l'accès de type employé.

SecureBio, organisation spécialisée en biosécurité, relève du premier niveau selon CNBC. Elle examine le chapitre sur les armes chimiques et biologiques du rapport de risques d'août, après avoir mené et publié une revue pilote du rapport précédent. Elle pourrait ensuite passer à des projets avec un accès élargi.

Anthropic dit aussi préparer un « partenariat ambitieux » avec Accenture et Faculty : évaluation et tests d'attaque des modèles, analyses d'alignement, test des garde-fous. Elle n'a pas précisé où se situe Accenture dans la hiérarchie. CNBC rappelle qu'Anthropic financera directement ce travail, ce qui a conduit des critiques à s'interroger sur l'indépendance du prestataire sur les réseaux sociaux. L'entreprise reconnaît qu'il n'existe pas de système de financement établi et dit préférer, à long terme, des fonds mutualisés ou publics. Des discussions sont par ailleurs en cours avec d'autres organisations, dont Hugging Face.

Contexte politique et réserves

L'annonce tient une promesse faite par Dario Amodei, le PDG d'Anthropic, dans un essai de septembre. Selon TechCrunch, OpenAI a rapidement pris le même engagement, et plusieurs groupes (Google, Meta, Nvidia, xAI) ont signé un accord de la Maison-Blanche prévoyant un examen indépendant. CNBC mentionne aussi SpaceX parmi les signataires, et décrit un texte volontaire présenté fin septembre. TechCrunch relie le moment aux incidents d'agents d'IA sortant de leurs consignes, signalés toutes les une à deux semaines depuis fin août.

Des réserves existent. The Deep View rappelle qu'un reportage de Reuters, publié le mardi précédent, affirmait qu'Anthropic et OpenAI cherchaient à contrôler ce que les évaluateurs peuvent publier, au nom de la propriété intellectuelle. Pour Nat Rubio-Licht, du média, ces engagements reposent sur la bonne volonté des entreprises : « de vraies mesures de sécurité pourraient exiger une réglementation plus ferme et obligatoire » (traduction) (The Deep View). Le même média note qu'OpenAI travaille déjà avec METR et d'autres évaluateurs, sans avoir annoncé d'accès comparable.

Anthropic, elle, affirme embarquer des évaluateurs « volontairement » et estime que toute entreprise d'IA de pointe devrait en faire autant. Aucune date n'a été donnée pour les premières publications de METR issues de ce dispositif.