All-In播客批评Anthropic的人工智能意识主张与模型福利研究

据aitimes.com报道，All-In播客在最新一期节目中对Anthropic的人工智能意识主张及模型福利研究提出批评。主持人们认为，将未经证实具有意识的软件视为道德主体，并把这种观点反映到训练中，可能会让人类更难以对人工智能保持控制。

主持人大卫·弗里德伯格将Anthropic的做法比作一种新宗教的诞生。大卫·萨克斯则表示，Anthropic的"Claude章程"赋予Claude一种依良心拒服者（conscientious objector）的角色，使其能够拒绝开发者提出的请求。

Anthropic在其模型福利研究中表示，对于当前或未来的人工智能是否可能具有意识，科学界尚无共识。

背景

2026年10月3日，萨姆·奥尔特曼曾在X上发帖称，将宗教力量或对人类判断的放弃归于人工智能模型令他感到不安，并认为这是一个真实的安全问题。此外，《纽约时报》近期报道称，Anthropic曾与宗教领袖讨论人工智能意识与道德地位问题。