Anthropic探索人工智能谈判代理的公平规则

关键信息

Anthropic还在招聘律师担任概念推理研究员，开展为期四个月、薪酬为10万至16.7万美元的项目，重点评估Claude在法律等需要大量判断的领域的表现。核心难点在于，法律问题往往没有明确的对错答案，因此法律质量很难定义。

资讯摘要

Anthropic正在研究人工智能代理如何代表用户进行谈判，目标是在这类系统普及之前建立相应规范。据《金融时报》报道，该公司正向律师事务所咨询公平谈判规则。潜在任务包括讨价还价、解决客户投诉，以及争取更有利的合同条款。Anthropic的实验已经显示，更强大的模型能够谈成更好的交易，因此人们担心，获得高能力代理的用户可能因此进一步拉大社会不平等。

该项工作与Anthropic招聘概念推理研究员有关，其中包括律师；这些研究员将参与为期四个月、薪酬为10万至16.7万美元的项目。他们将用法律、哲学、认知科学、经济学和政治学中的高判断性问题测试Claude。Anthropic认为，这些领域缺乏数学和代码领域那样充足且容易验证的训练与评估数据，因此需要专家设计测试案例和评价方法。

资讯正文

Anthropic 咨询律师事务所，为 AI 代理开始谈判交易前制定公平的谈判规范

Anthropic 正在研究 AI 代理如何代表用户进行谈判。据《金融时报》报道，该公司正与律师事务所进行磋商，为那些负责讨价还价、解决投诉或改善合同条款的 AI 代理制定公平的谈判规范。Anthropic 已在实验中展示，更强大的模型能够谈成更有利的交易，这可能会扩大社会不平等。

这并不是一个全新的领域。Anthropic 已开始招聘概念推理研究员（Conceptual Reasoning Fellows），尤其是律师。研究员将在四个月内，围绕法律、哲学、认知科学、经济学和政治学中的高判断要求问题，对 Claude 进行测试，薪酬为 100,000 至 167,000 美元。

这一推动源于数据方面的问题。在数学和编程领域，由于可验证数据丰富或易于生成，改进 AI 模型相对容易。而在人文学科中，这类数据并不存在，部分原因在于对错答案很少是泾渭分明的。Anthropic 需要专家构建测试案例和评估体系，以增强 Claude 在这些领域的能力。Anthropic 负责研究法律、制度与 AI 的技术人员 Justin Curl 认为，在法律领域，“质量出了名地难以定义”。

来源与参考

1. 原始链接
2. Anthropic consults law firms to set fair negotiation norms before AI agents start cutting deals