アンソロピック、Claudeが会話を自己評価する安全監視手法を開示

アンソロピックは2026年10月29日、AIアシスタント「Claude」が応答直後に自らの会話をレビューする「自己評価（self-assessment）」と呼ぶ安全監視手法を明らかにした。同社のX投稿によると、この手法は6月に登場した「Claude Fable 5」で導入されて以降、世界中のClaude利用のかなりの割合に適用されている。

自己評価では、応答のたびに平均約10トークンが追加される。アンソロピックによれば、追加の計算コストは推論全体の2%未満に抑えられる。同社はaitimes.comに対し、実サービスの会話を用いた内部評価で、既存の分類器が有害と判断した会話のうち78%をFable 5が検出したと説明した。高リスク会話では検出率94%、分類器に対する誤検知率は1%だった。

アンソロピックは、この手法が学習データから除外されたリスク類型、たとえば詐欺やサイバー攻撃にも有効だと述べている。同社は8月、単一のAPI顧客アカウント上で10万件を超える児童の性的搾取が疑われる活動を検出し、当局に通報した。9月には、Claude Codeを使って数十人に対するロマンス詐欺を自動化したグループを特定し、アカウントを停止した。

「Claude Fable 5」は6月の提供開始時から自己評価機能を組み込んでいた。今回の発表は、その運用実績と検出精度を初めて具体的に示すものとなる。