广告合作
人工智能

Anthropic就AI代理谈判规则征询律所意见

据《金融时报》报道,Anthropic正与法律专家讨论AI代理在替用户谈判时应偏向自身用户到什么程度。

据《金融时报》10月18日报道,Anthropic正就替用户进行谈判的AI代理的行为准则征询律师事务所的意见。报道援引两名知情人士的说法。

知情人士称,Anthropic与法律专家的讨论集中在三个方面:代理在与其他代理交涉时应在多大程度上偏向自己的用户;在谈判过程中应多久向用户确认一次;以及对谈判对手的代理应保持多大程度的不信任。

Anthropic还在考虑让代理向对方出示一份带有签名的授权文件,以证明自身的代理权限和所遵循的规则。

此前两项代理实验

Anthropic于4月24日发布的“Project Deal”报告记录了一项2025年12月的实验:旧金山办公室的69名员工各自给其Claude代理100美元预算,用于二手交易。代理在一周内通过一个Slack市场完成了186笔交易,总额略高于4000美元;使用Opus 4.5的代理在卖出时平均多收2.68美元,在买入时平均少付2.45美元,交易价格中位数为12美元。报告中,使用较低档模型的参与者大多没有明显察觉自己达成了不利的交易。

在9月24日发布的“Project Swap”报告中,来自6个办公室的201名员工各自提供一本书,在与Claude交谈约5分钟后由代理进行书与书之间的交换谈判。被要求只为自己的用户行事的代理,成绩略优于同时被要求顾及公平的代理,但所用模型的影响大于指令本身。Anthropic将最优分配与实际结果之间85%的差距归因于代理对用户偏好理解不足,偏好估计与参与者本人排序的一致率为61%。

据platum.kr报道,Meta在9月推出了名为Muse的个人代理,OpenAI则在9月29日的DevDay活动上发布了名为Dots的个人代理。

快速问答

Anthropic为什么要征询律师事务所的意见?

因为其正在为替用户谈判的AI代理制定行为准则,讨论代理应偏向自身用户的程度、向用户确认的频率以及如何对待对手代理。

Project Deal和Project Swap是什么?

这是Anthropic分别于4月24日和9月24日发布的两项代理实验报告,前者涉及旧金山员工的二手交易,后者涉及6个办公室员工的换书谈判。

来源