Anthropic installe une équipe de METR en interne pour auditer ses modèles
L'ONG METR dispose désormais d'un accès comparable à celui d'un salarié aux systèmes internes d'Anthropic, selon arstechnica.com.
Anthropic a annoncé le 15 octobre 2026 que METR, une organisation à but non lucratif spécialisée dans l'évaluation des systèmes d'IA, a installé une équipe en son sein. Ces évaluateurs bénéficient d'un accès comparable à celui d'un salarié, y compris aux infrastructures matérielles et aux systèmes internes de l'entreprise, selon arstechnica.com.
Anthropic, société à l'origine du modèle Claude, justifie ce dispositif par la puissance croissante des modèles d'IA, qui exige selon elle des garde-fous renforcés et une évaluation des risques plus difficile à mener. L'entreprise affirme vouloir assumer une responsabilité publique pour ses décisions sans pouvoir rendre toutes les informations pertinentes accessibles.
Le groupe compare ce fonctionnement à la supervision bancaire, où les régulateurs affectent des examinateurs résidents au sein des plus grandes banques.
Un partage d'information limité
Anthropic indique que la divulgation publique de certaines données de sécurité pourrait profiter à des acteurs malveillants ou à des concurrents, ce qui restreint la transparence externe.
METR a déjà collaboré par le passé avec plusieurs grands laboratoires, dont OpenAI, Anthropic, Google et Meta. En septembre, Sam Altman et Elon Musk s'étaient prononcés en faveur de la proposition de Dario Amodei, le patron d'Anthropic. OpenAI n'a pas encore détaillé de plan de ce type après les propos de Sam Altman jugeant l'idée pertinente.
En bref
Qui évalue les modèles d'Anthropic en interne ?
METR, une organisation à but non lucratif, dispose d'une équipe installée chez Anthropic avec un accès comparable à celui d'un salarié aux systèmes internes.
Pourquoi Anthropic ne publie-t-elle pas toutes les informations de sécurité ?
L'entreprise estime qu'une telle divulgation pourrait profiter à des acteurs malveillants ou à des concurrents.