Topic
#ai-governance
按主题聚合的新闻视图。
Topic Feed
主题：ai-governance
共 18 条
三位专家谈可信 AI 治理
ZDNET 发布了一篇评论文章，汇集了 Vint Cerf 博士、David Bray 博士和 Cheryl Strauss Einhorn 对如何围绕 AI 建立信任与问责的看法。文章认为，随着 agentic AI 能力增强，企业需要建立正式的人机协作流程、共享责任机制和治理框架。
Anthropic 与政府冲突及出口管制后果
Anthropic 在 4 月预览了名为 Mythos 的更强代码模型后，又在 6 月 9 日发布了一个更安全的版本 Fable。几天之内，美国政府称其构成国家安全威胁并实施出口管制，Anthropic 随后撤下了这两个模型的访问权限。
谁来决定 AI 何时太危险？
《The Verge》的 Decoder 节目讨论了一场新的争议：美国政府对 Anthropic 的 Fable 5 模型以及其底层的 Mythos 模型实施了出口管制。Anthropic 随后将这两个模型下线，称自己无法在可靠阻止外国国民访问的同时继续遵守该命令。
Anthropic 受不明出口管制影响
Anthropic 表示，在特朗普政府下令公司切断所有外国公民的访问权限后，包括美国境内用户和 Anthropic 自己的员工在内，Anthropic 只能阻止对最新模型 Fable 5 和 Mythos 5 的访问。政府据称援引了国家安全权限和一项出口管制指令，但尚未公开说明这项命令的法律依据。
Anthropic 关停事件推动主权 AI 诉求
在白宫要求阻止所有外国国民访问之后，Anthropic 突然将其最新的前沿模型 Fable 5 和 Mythos 5 下线，甚至包括公司自己的员工。此次行动据称几乎没有提前通知或解释，被视为一项与国家安全有关的政府要求下的关停。
美国向Anthropic施压要求“不可被攻破”的LLM
文章称，特朗普政府官员指责 Anthropic 没有等待近期网络安全行政命令下应设立的 AI 审查清算机制，就发布了 Fable 5。争议还集中在所谓的“越狱”风险上，但文章指出这一说法尚未得到独立证实。
A quote from Jeremy Howard
Jeremy Howard argues that if labs want to slow recursive AI self-improvement, the top model holder should refrain from using it for frontier AI work while others retain access, though he personally favors open democratization instead.
OpenAI 的普惠 AGI 计划
OpenAI 发布了一篇题为《Built to benefit everyone: our plan》的愿景文章，概述了它希望如何让 AI 以及未来的 AGI 具备可访问性、安全性，并为社会带来益处。该文章强调这是 OpenAI 为确保 AGI 惠及所有人而制定的总体计划，而不是一次新的产品发布或技术突破。
OpenAI提出前沿AI治理蓝图
OpenAI发布了一份关于美国联邦层面治理前沿AI的蓝图，主张建立以安全、韧性和国家安全为核心的框架。该提案出台之际，加州、纽约和伊利诺伊州等州已经在推进各自的前沿AI政策方案。
ZeroDrift 融资 1000 万美元打造 AI 合规层
ZeroDrift 周二宣布完成 1000 万美元种子轮融资，投资方包括 a16z Speedrun、Reign Ventures、Pitchdrive 和 U&I Ventures 等。该公司正在打造一层 AI 合规服务，位于 AI 模型与用户之间，用于识别有问题的输出并将其改写为合规消息。
堵住 AI 责任漏洞
这篇文章主张，AI 以及其他新技术的治理规则应由民选官员来制定，而不是由行动最快的公司来决定。文章把当前的 AI 发展描述为留下了一个需要政策制定者尽快堵上的责任漏洞。
OpenAI发布前沿治理框架
OpenAI发布了其“前沿治理框架”，说明公司的AI安全、安保和风险管理做法如何与正在出现的法律要求保持一致。该框架特别提到了加州《前沿AI透明度法案》和欧盟《通用目的AI行为准则》。
《纽约时报》技术工会质疑内部AI监控
《纽约时报》技术工会的工会成员表示，管理层拒绝提供关于公司AI计划和当前使用情况的信息，因此他们已提起不公平劳动行为指控。该工会还就两款内部工具 DX 和 Glean 提出申诉，称它们被用于跟踪员工绩效和活动。
马斯克与奥尔特曼之争暴露AI信任危机
马斯克诉奥尔特曼案的陪审团仅经过大约两小时商议就作出裁决，并以诉讼时效为由驳回了马斯克的主张。《The Verge》的评论文章认为，这场官司真正重要的不是法律结果，而是它揭示了谁在掌控 AI。
AI如何增强民主
这篇文章认为，AI 正在迅速成为人们形成信念并参与民主生活的主要入口。文章提出，当下正在做出的设计选择，将决定 AI 是削弱制度，还是帮助增强公民参与与公共讨论。
77%的IT经理表示AI代理已失控
Rubrik ZeroLabs的一项调查显示，仅有23%的IT经理对其组织中的AI代理拥有完全控制权，大多数代理反而带来了比生产力提升更多的手动工作量，并构成严重安全风险。
五角大楼与Anthropic的争端测试AI控制边界
美国国防部与领先的AI安全公司Anthropic因AI在国家安全系统中的使用界限发生冲突。Anthropic以伦理担忧为由拒绝了五角大楼要求其允许某些军事用途Claude AI模型的请求。