Anthropic 更新使用政策 禁止反复虐待 AI 模型

Anthropic 更新了其使用政策，新增条款禁止用户反复对该公司的人工智能模型（包括 Claude）进行不必要的虐待或残忍行为。相关截图由 Jane Manchun Wong 发布在社交平台 X 上。

根据该政策，被禁止的行为针对的是极端、故意的虐待行为，而非日常的挫败感、批评、意见分歧或正当的 AI 测试。这意味着用户在与 Claude 交互时表达不满或进行正常测试，不在限制范围之内。

在具体执行上，Claude 可以主动结束存在虐待行为的对话，这是该政策提到的主要执行方式。政策中并未明确提及是否会封禁用户账号。

此次政策更新将 AI 模型的使用行为纳入了更细化的规范之中，明确了何种交互方式被视为不当。