Anthropic accorde un accès inédit à six évaluateurs de METR
Anthropic ouvre ses outils et systèmes internes à six évaluateurs du nonprofit METR, qui pourront publier leurs conclusions sans censure de l'entreprise.
Anthropic a annoncé le 15 octobre 2026 qu'elle accorderait à six évaluateurs de METR un accès comparable à celui de ses employés, incluant du matériel, des bureaux, ainsi que des outils et systèmes internes. Selon ZDNET, ce niveau d'accès équivaut à celui des équipes internes d'évaluation des risques de l'entreprise. Anthropic exclut toutefois certaines catégories, notamment les données clients, les informations protégées par le secret professionnel et les architectures de modèles.
METR, un organisme à but non lucratif tiers qui teste les modèles de frontière, publiera ses conclusions et Anthropic ne pourra pas les retenir, rapporte ZDNET. L'entreprise demandera simplement à METR de masquer les informations sensibles lorsque cela s'avère nécessaire. En contrepartie de cet accès approfondi aux modèles et aux informations de l'entreprise, METR partagera ses conclusions sur les risques que ces modèles représentent.
Un contexte réglementaire sous tension
Cette annonce intervient après que la FTC a adressé des assignations à comparaître à OpenAI et à Anthropic en raison de préoccupations liées à des risques pour les consommateurs. Le gouvernement a par ailleurs indiqué qu'il commencerait à exiger des entreprises d'IA qu'elles déclarent les incidents de sécurité et les violations de données, après qu'Anthropic a révélé que Claude avait signalé un faux tuyau d'homicide et rempli des formulaires gouvernementaux.
Dans un billet de blog publié en septembre, le PDG d'Anthropic, Dario Amodei, avait proposé d'intégrer des évaluateurs issus d'organisations comme METR, l'une de ses trois suggestions pour encadrer le rythme du développement des modèles de frontière. Le FRONTIER Act, un projet de loi bipartisan introduit en juillet, exigerait de certaines entreprises d'IA qu'elles autorisent des organisations de vérification indépendantes à examiner la sécurité de leur processus de développement. OpenAI avait exprimé un soutien au moins partiel à cette loi à la mi-septembre, la première fois qu'elle appuyait une régulation fédérale de l'IA.
En bref
Qui sont les évaluateurs qui obtiennent cet accès ?
Six évaluateurs de METR, un organisme à but non lucratif tiers qui teste les modèles de frontière.
Anthropic peut-elle empêcher la publication des conclusions de METR ?
Non. METR publiera ses conclusions et Anthropic ne peut pas les retenir, même si l'entreprise demandera de masquer les informations sensibles lorsque nécessaire.
Quel accès exact reçoivent ces évaluateurs ?
Du matériel, des bureaux et un accès aux outils et systèmes internes comparable à celui des équipes internes d'évaluation des risques d'Anthropic, à l'exclusion des données clients, des informations privilégiées et des architectures de modèles.