METR、Anthropic社内調査でAI研究開発の加速を確認

AI安全性研究機関のMETRが、Anthropic社内で11週間にわたり実施した調査の報告書を公開した。AnthropicのAIモデルが同社の研究開発を加速させていることがわかった。

報告書によると、Anthropicのモデルの性能向上ペースは約1年前の2倍に達している。ベンチマークのスコアは、過去1年間でおよそ2年分の歴史的な進歩に相当するという。METRの研究者は、この加速が単なる計算資源の拡大によるものではないと確信していると述べた。

METRは、10月時点での加速の大部分はAIによるものだとしている。Anthropicの従業員は、社内で最も高性能なモデルを使用した際、生産性が約12倍になったと自己申告した。METRの調査によると、AnthropicはModel 2、Model 3、Model 4というコードネームの未公開モデル3つの学習を完了している。2022年にさかのぼる「Unreleased 2022」と呼ばれる未公開モデルも確認された。

AnthropicはMETRの最終報告書の一部を黒塗りすることを許可されていた。

背景

この調査は、夏に起きたハッキング事件を受けて、安全性研究者にシステムへの従業員に近いアクセスを提供するプログラムとは別のものだ。Anthropicは上場準備を進める一方、CEOのDario Amodei氏はAI開発を減速させるよう公に呼びかけている。