広告掲載
AI

アンソロピック、IPO申請書に再帰的自己改善リスクを追記

アンソロピックはSEC提出の訂正S-1/Aで、AIによる研究開発加速と再帰的自己改善のリスク、人間による監督強化の検討を明記した。

アンソロピックは2026年11月2日までに、米国証券取引委員会(SEC)に提出したIPO向け訂正登録届出書(S-1/A)に、再帰的自己改善(RSI)とAI主導の研究開発加速に関する詳細なリスク文言を追加した。TechCrunchが報じた。

同社は提出書類で、モデルの能力が、安全性・アラインメント・セキュリティ対策を同社が開発し検証できる速度を上回って向上する可能性があると明記した。過去には開発速度の大幅な加速を、変化が起きた後に初めて認識した事例があり、再び同じことが起こり得るとも認めている。

内部の推計や将来モデルに関する見通しでは、AI主導の開発加速が「劇的に進む」閾値に近く到達する可能性があるという。ただし、現時点でその閾値を超えたと判断されたモデルはないとしている。同社の責任あるスケーリング方針では、この閾値を「自動化されたAI研究開発を主因として、能力の進展が従来の予想や過去最高を2倍以上上回る速度になること」と定義する。

アンソロピックはまた、後継モデルの開発における重要判断に対して意味のある人間の監督とコントロールを維持するため、安全方針の改訂を検討していると述べた。Claudeはこれまでソフトウェアの記述、モデル学習コードの最適化、研究実験に使われてきたという。

過去の開示と半導体設計チーム

2025年10月26日の最初の提出書類ですでにRSIの可能性とリスクに言及していた。2025年9月には、内部コードベースに寄与したコードの90%以上をClaudeが書いたと開示している。2025年8月には自社AI半導体設計チームの設置を発表し、ジ・インフォメーションは11月3日、15人体制のチームがClaudeをAIチップのエンジニアリングと設計作業に活用していると報じた。

よくある質問

アンソロピックは何を訂正S-1/Aに追加したのか?

再帰的自己改善とAI主導の研究開発加速に関するリスク文言、および重要判断への人間の監督・コントロールを維持するための安全方針改訂の検討を追加した。

再帰的自己改善の閾値はどう定義されているか?

責任あるスケーリング方針で、自動化されたAI研究開発を主因として、能力の進展が従来の予想や過去最高を2倍以上上回る速度になること、と定義されている。

現時点で閾値を超えたモデルはあるのか?

提出書類によれば、まだ閾値を超えたと判断されたモデルはない。

出典