Mozilla开发者推出'cq'，打造AI代理的Stack Overflow
Ars Technica AI··作者 Samuel Axon
关键信息
该项目旨在解决两大核心问题：因训练截止时间导致的知识过时以及代理之间缺乏协作；同时在广泛采用前还需应对安全、数据污染和准确性等挑战。
资讯摘要
Mozilla开发者彼得·威尔逊推出了一项名为'cq'的新开源项目，目标是成为AI代理的'Stack Overflow'——一个由社区驱动的集中式知识库。目前许多AI代理依赖静态训练数据，导致做出过时决策，例如使用已弃用的API。它们还无法共享常见问题的解决方案，造成计算资源浪费。
cq试图通过让代理查询并贡献到共享知识库来解决这个问题，就像开发者使用Stack Overflow一样。尽管前景广阔，但该项目必须克服数据完整性、模型投毒和确保准确相关响应等严重问题，才能赢得信任并获得广泛应用。
资讯正文
Mozilla开发者彼得·威尔逊在Mozilla.ai博客上宣布了cq项目，他将其描述为“代理的Stack Overflow”。这一新兴项目暗示了某种真正有用的功能，但要实现广泛采用，它必须解决安全、数据污染和准确性等问题。
该项目旨在解决两个问题。首先，编码代理在做决策时常常使用过时的信息，比如尝试已弃用的API调用。这源于训练数据的截止时间以及缺乏可靠且结构化的实时上下文访问方式。它们有时会使用RAG（检索增强生成）技术来获取最新知识，但并非总是如此——正如常说的“未知的未知”——而且即使使用，也从未做到全面覆盖。
其次，多个代理经常需要绕过相同的障碍，但在训练截止点之后却无法共享知识。这意味着数百甚至数千个独立代理会不断消耗昂贵的token并耗费能源，重复解决已经解决的问题。理想情况下，只需一个代理解决一个问题，其他代理就能从中汲取经验。
来源与参考