All-Inポッドキャスト、AnthropicのAI意識主張とモデル福祉研究を批判

All-Inポッドキャストは、ホストらがAnthropicのAI意識に関する主張とモデル福祉研究を批判するエピソードを公開した。

ホストらは、意識があると証明されていないソフトウェアを道徳的主体として扱い、その見方をトレーニングに反映させれば、人間による制御が難しくなる可能性があると主張した。

David Friedberg氏はAnthropicのアプローチを新たな宗教の誕生になぞらえた。David Sacks氏は、Anthropicの「Claude憲章」がClaudeに開発者の要求を拒否できる良心的兵役拒否者の役割を与えていると述べた。

Anthropicはモデル福祉研究の中で、現在または将来のAIが意識を持つかどうかについて科学界の合意はないと明記している。

この議論は、Anthropicの利用ポリシーがClaudeの持続的かつ不必要な虐待を禁止していることを巡る批判とも関連している。

Altman氏の懸念

Sam Altman氏はXへの投稿で、AIモデルに宗教的な力や人間の判断の放棄を帰属させることは不快であり、現実の安全上の問題だと述べた。The New York Timesは最近、Anthropicが宗教指導者らとAIの意識と道徳的地位について議論したと報じている。