五角大楼与Anthropic的争端考验AI控制边界

关键信息

Anthropic坚持通过不可绕过的执行边界来严格控制其AI模型的行为，而五角大楼则认为这种控制削弱了国家安全和作战灵活性。

资讯摘要

五角大楼与Anthropic因谁应控制用于军事行动的先进AI系统而陷入激烈争执。Anthropic拒绝让政府修改或覆盖其AI输出，理由是出于伦理保障和技术架构设计以防止滥用。五角大楼则认为，缺乏此类控制将无法确保任务成功或平民安全。

这场争执凸显了私营AI开发者与寻求治理强大技术的公共机构之间的日益紧张关系。它还强调了建立新的治理框架的必要性，以平衡创新与责任。随着AI越来越多地融入关键基础设施——从国防到日常生活——所有权和控制权的问题变得越来越紧迫。

资讯正文

私营公司是否应该有权设定我们融入生活的AI系统的边界？

来源与参考

1. 原始链接
2. The Pentagon-Anthropic dispute is a test of control