Anthropic ouvre ses systèmes d'évaluation à six chercheurs de METR
Six chercheurs de METR ont obtenu un accès de niveau employé aux systèmes d'évaluation internes d'Anthropic, avec un droit de publication indépendant.
Anthropic a annoncé, le 15 octobre 2026, avoir accordé à six chercheurs de METR un accès de niveau employé à ses systèmes d'évaluation internes. Selon aitimes.com, les chercheurs disposent du même niveau d'accès que l'équipe interne d'évaluation des risques de l'entreprise, avec la mise à disposition de matériel, d'espaces de bureau et des outils et systèmes internes.
Cet accès s'accompagne d'un droit de publication indépendant : METR peut publier ses propres rapports d'évaluation sur les niveaux de risque, les incidents et les pratiques de sécurité d'Anthropic. L'entreprise ne peut pas s'opposer à leur publication et peut uniquement demander la suppression ou la révision de certaines catégories prédéfinies, comme les données clients, les informations protégées par le secret professionnel des avocats et l'architecture des modèles.
Anthropic prépare un système à trois niveaux pour l'accès des évaluateurs externes, METR participant au niveau 3. L'entreprise mène également des discussions avec Accenture et sa branche d'intelligence artificielle Faculty sur l'évaluation des modèles, les tests d'intrusion, l'évaluation de l'alignement et la vérification des garde-fous de sécurité.
Anthropic a indiqué être en discussions avec d'autres organisations, dont Hugging Face, et a comparé ce dispositif à un système de supervision bancaire.
Un contexte de propositions sur les risques
METR a publié, le 14 octobre, des propositions visant à mieux informer le public sur les risques de « perte de contrôle » liés au développement de l'IA de pointe. Le mois dernier, le PDG d'Anthropic, Dario Amodei, avait proposé d'intégrer des évaluateurs indépendants au sein des entreprises pour encadrer le rythme de développement de l'IA. Par la suite, de grandes entreprises d'IA ont déclaré, dans le cadre de l'accord superintelligence de la Maison-Blanche, qu'elles coopéreraient avec des évaluateurs externes indépendants. SecureBio, une organisation à but non lucratif de biosécurité, réalise des évaluations des risques liés aux armes chimiques et biologiques dans le rapport de risque d'Anthropic publié en août.
En bref
Quel niveau d'accès les chercheurs de METR ont-ils obtenu chez Anthropic ?
Ils disposent d'un accès de niveau employé, comparable à celui de l'équipe interne d'évaluation des risques d'Anthropic, avec matériel, espaces de bureau et accès aux outils et systèmes internes.
METR peut-il publier ses rapports sans l'accord d'Anthropic ?
Oui, METR peut publier ses rapports de manière indépendante. Anthropic peut seulement demander la suppression ou la révision de catégories prédéfinies, comme les données clients, les informations protégées par le secret professionnel et l'architecture des modèles.
Avec quelles autres organisations Anthropic coopère-t-il ?
Anthropic mène des discussions avec Accenture et sa branche IA Faculty, et indique être en pourparlers avec d'autres organisations, dont Hugging Face.