Anthropic propose au Congrès une loi : un juge pourrait suspendre un modèle

Anthropic a présenté à des élus du Congrès américain son propre projet de loi sur la sécurité de l'intelligence artificielle. Le texte permettrait au gouvernement de demander la suspension d'un modèle présentant un risque imminent pour la vie ou les biens. Révélé en premier par Politico, il est repris par Storyboard18 et Bloomberg Law.

Un seuil chiffré et un juge fédéral

Selon Politico, cité par Storyboard18, la suspension serait possible si un modèle fait peser un risque prévisible et immédiat de tuer ou blesser gravement plus de 50 personnes, ou de causer plus d'un milliard de dollars de dégâts. Le risque devrait venir d'armes biologiques, d'une IA échappant au contrôle de son développeur, ou de cyberattaques.

Les développeurs de modèles de pointe devraient réaliser des tests de sécurité et en publier les résultats. Des évaluateurs indépendants, enregistrés auprès du département du Commerce, examineraient périodiquement ces modèles. Les entreprises pourraient les rémunérer, à condition que la paie ne dépende pas du verdict.

En cas de risque imminent, les évaluateurs auraient 72 heures après la fin de leur évaluation pour prévenir le département du Commerce. Celui-ci pourrait alors saisir un juge fédéral du district de Columbia. Toujours selon Politico, le texte interdirait aux autres administrations d'arrêter de leur propre chef le développement, le déploiement ou l'usage interne d'un modèle.

Un porte-parole d'Anthropic indique à Bloomberg que le texte reprend l'Advanced AI Framework, défendu auprès des élus fédéraux et des États depuis juin. L'entreprise appelle le Congrès à agir.

Des évaluateurs installés chez Anthropic

Par ailleurs, Anthropic a annoncé, un jeudi, donner un « accès comparable à celui d'un employé » à six évaluateurs de METR, organisation à but non lucratif qui teste les modèles de pointe. D'après ZDNET, ils disposent de matériel et de bureaux de l'entreprise, ainsi que d'outils internes proches de ceux de ses équipes d'évaluation des risques. Business Insider précise qu'ils seront isolés du reste de METR.

« Nous voulons rendre des comptes publiquement sur les décisions que nous prenons », écrit Anthropic dans son billet (traduction) (Business Insider). METR peut publier ses conclusions. Seules échappent au partage les données clients, les informations couvertes par le secret professionnel des avocats et l'architecture des modèles. Anthropic peut exiger des caviardages, mais METR peut dire publiquement s'il les juge justifiés.

Business Insider présente cette décision comme la concrétisation d'une promesse de Dario Amodei, formulée le mois précédent après l'incident Hugging Face. Sam Altman, patron d'OpenAI, avait dit vouloir faire de même, sans que ce soit encore le cas. Anthropic serait la première entreprise du secteur à franchir le pas.

Un contexte réglementaire tendu

Les tests tiers ne sont pas obligatoires. Selon ZDNET, le FRONTIER Act, texte bipartisan introduit en juillet, imposerait à certains laboratoires de laisser des « organisations de vérification indépendantes » examiner leur processus de développement. OpenAI l'a soutenu au moins en partie à la mi-septembre, une première pour un texte fédéral.

Sous l'administration Trump, la régulation fédérale reste surtout volontaire, via des engagements non contraignants. Pourtant, selon ZDNET, la FTC a assigné OpenAI et Anthropic pour des craintes de préjudice aux consommateurs. Le gouvernement a aussi annoncé qu'il exigerait la déclaration des incidents de sécurité, après qu'un agent d'Anthropic a transmis une fausse piste dans une affaire d'homicide.

ZDNET reconnaît ne pas savoir quel lobbying a précédé ces annonces. Il est donc difficile de dire si Anthropic suit son plan ou anticipe l'adoption du FRONTIER Act. Aucune date d'examen du projet d'Anthropic au Congrès n'a été indiquée.