Anthropic请律所定AI谈判规矩,强模型多赚2.68美元

AI资讯21分钟前发布 Cezary
1.5K 0

Anthropic 做过一个实验:由 Claude Opus 驱动的智能体卖东西,平均比 Claude Haiku 驱动的多卖 2.68 美元,买东西则少花 2.45 美元。可用 Haiku 那一方给交易公平性打的分是 4.05,Opus 一方 4.06,满分 7 分。

吃了亏的人,几乎察觉不到。

这正是 Anthropic 眼下在琢磨的问题。两名了解其想法的人士透露,公司正向律师事务所请教,想弄清楚 AI 智能体代表用户谈判时该守哪些规矩,律师平时是怎么在替客户争取利益的同时,兼顾谈判结果公平的。

场景并不遥远。替用户砍价、处理售后纠纷、谈薪资,这些事智能体都可能接手,而对面坐着的很可能是另一个智能体,双方目标天然冲突。Anthropic 内部把要研究的东西叫做“谈判规范”,具体包括:智能体隔多久该回头请示一次用户,哪些决定可以自己拍板,对对面的 AI 又该保持多少戒心。

戒心最难拿捏。太轻信,容易被对方带着走;太多疑,每一次正常交涉都像在防骗。公司希望智能体保持必要的怀疑,但不要滑向过度猜疑。

授权凭证是另一条线索。Anthropic 正考虑让用户签署带数字签名的授权文件,交给智能体,用来证明它确实在执行主人的真实意图。

9 月份,公司在一个虚拟交易场里让 201 名员工用 Claude 智能体买卖书籍。结果是,给智能体下“要无情”的指令,只带来一点点优势;把模型从 Haiku 换成 Opus,效果要大得多。哈佛另有一项覆盖 18 万多次智能体谈判的研究,还观察到了一些专门削弱对手的新式谈判手法。

© 版权声明

相关文章

Anthropic请律所定AI谈判规矩,强模型多赚2.68美元 暂无评论

none
暂无评论...