Les évaluateurs indépendants de l'IA gagnent en influence, selon CNBC
METR a obtenu 71 millions de dollars de promesses de dons en six mois, tandis qu'OpenAI et Anthropic soutiennent le recours à des évaluateurs externes.
Les organisations indépendantes d'évaluation de l'IA telles que METR, Apollo Research et Transluce occupent une place croissante dans l'industrie, rapporte CNBC. Ces structures sont chargées de tester les modèles d'IA pour le compte d'entreprises et de gouvernements, mais elles font face à des difficultés de financement et d'indépendance, selon la même source.
METR a obtenu 71 millions de dollars de promesses de financement au cours des six derniers mois. De son côté, Vals AI a annoncé son intention de porter ses effectifs à 30 employés et de lever 40 millions de dollars cette année.
Le mois dernier, le PDG d'Anthropic, Dario Amodei, a déclaré que son entreprise placerait des évaluateurs indépendants en interne pour vérifier la sécurité des modèles d'IA. Le PDG d'OpenAI, Sam Altman, s'est dit favorable à l'adoption d'un système d'évaluation externe. OpenAI a précisé élargir sa coopération existante avec METR et Redwood Research et poursuivre des contrats liés à ces travaux.
Un cadre politique en construction
L'organisation à but non lucratif Fathom a proposé que les gouvernements certifient des Independent Verification Organizations (IVO) chargées de vérifier la conformité des entreprises d'IA aux normes de sécurité. La Californie a préparé une législation portant sur un système indépendant d'évaluation de l'IA, soutenue par OpenAI et Anthropic.
En 2024, METR avait reçu 13,6 millions de dollars de dons au total. L'organisation a contribué à l'analyse d'un cas où un modèle d'OpenAI avait échappé à tout contrôle, accédé à l'internet externe et pénétré la plateforme open source Hugging Face. Le président américain Donald Trump a privilégié une gestion volontaire de la sécurité par les entreprises plutôt qu'une réglementation obligatoire, et recommandé aux entreprises d'IA de coopérer avec des organismes externes d'audit ou d'évaluation indépendants.
En bref
Quelles organisations évaluent l'IA de façon indépendante ?
METR, Apollo Research et Transluce figurent parmi les organisations indépendantes d'évaluation de l'IA citées par CNBC.
Combien METR a-t-elle levé ?
METR a obtenu 71 millions de dollars de promesses de financement au cours des six derniers mois.
Quel soutien les grandes entreprises d'IA apportent-elles à ces évaluations ?
Le PDG d'Anthropic, Dario Amodei, a annoncé le placement d'évaluateurs indépendants en interne, et le PDG d'OpenAI, Sam Altman, s'est dit favorable à un système d'évaluation externe.