OpenAIとAnthropic、カリフォルニア州にAI安全規制の強化を要請
両社はニューサム知事に別々の書簡を送付。Anthropicは裁判所によるリリース差し止めを提案し、OpenAIは緊急停止措置や監査を求めた。
OpenAIとAnthropicは、カリフォルニア州のギャビン・ニューサム知事に対し、AI安全規制を強化するよう求める別々の書簡を送った。ロイターが報じた。
Anthropicの書簡は15日付で、深刻なリスクをもたらすと判断されたAIモデルのリリースを政府が裁判所に求めて阻止できるようにすべきだと主張した。一方で、モデルやシステム全体を一度に停止する義務的なキルスイッチには反対し、問題のあるAIエージェントを無効化するような標的型の介入の方が効果的だとの立場を示した。
OpenAIの書簡は20日付で、AI企業に緊急停止措置の導入、年次の独立した外部監査、サイバーセキュリティ基準の強化を義務付けることを提案した。同社はカリフォルニア州のAI透明性法SB53の既存義務にこれらの措置を追加して強化すべきだとした。
さらにOpenAIは、安全フレームワークがAI研究開発を自動化する先端モデルの能力に明示的に対応すべきだと述べた。
背景
カリフォルニア州は2025年にSB53を制定し、先端AI開発者に安全フレームワークと透明性報告書の公表、重大な安全インシデントの報告を義務付けている。ニューサム知事は2026年9月にAI安全規制の改善策を準備する専門家パネルを設置した。
よくある質問
OpenAIとAnthropicは何を求めているのか？
両社はカリフォルニア州のギャビン・ニューサム知事にAI安全規制の強化を求める書簡を送った。Anthropicは深刻なリスクのあるモデルのリリースを裁判所に求めて阻止できる権限を提案し、OpenAIは緊急停止措置や年次監査、サイバーセキュリティ基準の強化を提案した。
SB53とは何か？
2025年にカリフォルニア州で制定されたAI透明性法で、先端AI開発者に安全フレームワークと透明性報告書の公表、重大な安全インシデントの報告を義務付けている。