白宫押注人工智能简化政府服务

关键信息

America.gov 至少部分依赖 Gemini，这类大型语言模型能够生成流畅回答，但也可能编造没有依据的信息。文章指出，即使错误不会引发国家安全危机，也可能导致民众错过期限、福利申请被拒或遭受经济处罚。

资讯摘要

美国总统唐纳德·特朗普周二宣布，白宫将推出 America.gov，这是一个旨在帮助民众查找政府服务和其他官方信息的人工智能聊天机器人。Google 已确认参与该项目，并表示其 Gemini 模型被用于此次发布，但其他人工智能公司是否参与尚未公布。特朗普将这项服务描述为政府信息的统一入口，使公民不必再从数万个政府网站和规则中逐一搜索。让公共服务更容易使用是一个有价值的目标，但文章质疑聊天机器人是否是提供官方指导的最安全方式。

大型语言模型可能出现“幻觉”，也就是生成听起来合理、实际上却不真实或缺乏依据的信息。文章援引 CNN 的报道说，美国军方曾因人工智能生成的错误判断，误以为一艘中国船只载有核武器部件，险些发动武装行动。虽然 America.gov 的错误不太可能引发类似的军事危机，但有关食品券、签证续期或税务的错误建议仍可能导致民众错过期限、福利被拒或遭受处罚。

资讯正文

美国总统唐纳德·特朗普周二宣布，白宫将推出 America.gov。这是一款旨在帮助人们查找政府服务及其他信息的 AI 聊天机器人。

Google 证实，该公司是此次项目的合作伙伴，其 AI 模型 Gemini 也参与其中，但目前尚不清楚是否还有其他 AI 公司作出贡献。

特朗普在 X 上发帖称：“公民不必再被迫在数以万计的政府网站和规则构成的无尽迷宫中搜索……今后，无论你有什么问题，都将有一个统一入口。”

让政府服务更便于查找和使用是一个值得追求的目标，但 AI 聊天机器人真的是实现这一目标的最佳方式吗？大型语言模型并非万无一失，仍然容易产生幻觉。事实上，CNN 最近报道称，美军曾因认定一艘中国船只载有核武器部件，险些对其发动武装行动。在最后一刻意识到所谓的威胁只是 AI 幻觉后，军方取消了任务。

如果有人从 America.gov 获得错误信息，可能不至于引发核战争，但错误仍可能造成严重后果。人们可能会依赖这款聊天机器人获取有关申请食品券、续签签证或报税的信息；在这些事务中，错误可能导致错过截止日期、福利申请被拒，或受到处罚。

来源与参考

1. 原始链接
2. Can a chatbot fix the government maze? The White House is about to find out | TechCrunch