情绪AI正在渗入职场
The Decoder··作者 Maximilian Schreiner
关键信息
文章援引批评称，许多情绪AI产品依赖保罗·埃克曼的“六种基本情绪”理论，而这一理论长期被认为过于简化且方法上存在缺陷。文章还提到，情绪识别系统存在种族偏见的报告，以及自动监控和筛选工具已经造成的职场伤害案例。
资讯摘要
The Decoder 对《大西洋月刊》这篇由 Ellen Cushing 撰写的特稿进行了总结，文章认为情绪AI正在悄悄进入日常工作场景。Cushing 先用 MorphCast 做了自我测试，结果系统把她在与老板开会时判定为“愉快”“坚定”“感兴趣”，有时甚至是“急躁”。这个实验引出了一条更大的报道线索：一个以情绪AI和情感计算为名的快速增长市场。文章称，这类工具已经被用于会议、面试、呼叫中心、内部聊天系统，甚至实验性硬件。文中举例包括 MetLife 监控客服人员的音调和语气，Burger King 试用名为 Patty 的耳机聊天机器人来评估员工的友好程度，Framery 测试内置生物传感器的办公椅，以及 Aware、Microsoft Azure 和 Imentiv 等产品。
Cushing 和受访专家质疑这些系统是否真的能准确推断情绪，尤其是当它们建立在对面部表情和语调的有争议假设之上时。报道还强调了偏见问题，例如研究显示，情绪识别 AI 甚至会把黑人 NBA 球员判断得比白人队友更愤怒，即使他们在微笑。除了科学问题之外，文章还指出这些系统会带来现实伤害，比如有人因为“键盘不活动”而被降级，或因自动化判断而被拒绝机会。文中提到，欧盟已经在工作场所禁止情绪AI，但医疗和安全用途除外，而全球市场仍预计快速扩张，这凸显了欧洲监管与其他地区商业化应用之间的落差。
资讯正文
伪科学的情绪 AI 正在侵入职场，Atlantic 一篇报道显示
要点
- 《The Atlantic》的一篇报道显示，雇主越来越多地使用“情绪 AI”软件，在会议、客户来电和求职面试中监测并分析员工的情绪。
- 专家表示，这些工具依赖有缺陷的科学，可能带有种族偏见，并会不公平地惩罚员工。
- 欧盟已禁止在工作场所使用情绪 AI，但全球市场预计到 2030 年将增长三倍，这引发了对侵入式员工监控的严重担忧。
《The Atlantic》记者 Ellen Cushing 在一篇特写中探讨了这样一种软件：它声称能借助 AI 读取情绪，并正悄然成为日常工作生活的一部分。
Cushing 自己试用了 MorphCast；该程序分析了她在与老板开会时的面部表情，判断她总体上是“ amused（被逗乐的）”、“determined（坚定的）”和“interested（感兴趣的）”——尽管偶尔会显得“impatient（不耐烦的）”。这次自我实验成为切入点，带出对一个快速增长行业的更广泛观察。这个行业往往以“emotion AI（情绪 AI）”和“affective computing（情感计算）”等名义运作。
这些产品分析的内容涵盖从求职面试视频、呼叫中心音频到聊天记录。MetLife 监控其呼叫中心坐席的音高和语调；Burger King 正在试点一款名为“Patty”的耳机聊天机器人，用于评估员工互动是否友好；家具制造商 Framery 则测试了配备生物传感器的办公椅，这些传感器可以测量心率、呼吸频率和紧张程度。Slack 集成工具如 Aware，以及 Microsoft 的 Azure，都提供对内部通信的情绪分析，而 Imentiv 等供应商则将面向招聘流程的情感分析工具推向市场。
科学上备受争议，在一些地方已被法律禁止
在报道中，Cushing 还质疑了这些工具的科学基础。许多产品依赖 Paul Ekman 关于六种基本情绪的理论，而这一理论几十年来一直“因过于简化且在方法论上存在缺陷而受到广泛质疑”。神经科学家 Lisa Feldman Barrett 被引述说，动作“无论是你脸上的、身体上的，还是你发出的声音中的，都不具有内在的情绪意义。它们具有关系性的意义。”她指出，在美国，人们只有大约 35% 的情况下会在愤怒时皱眉。文章称，Lauren Rhue 的一项研究发现，情绪识别 AI 会把黑人 NBA 球员判定得比白人队友更愤怒，甚至“在某些情况下，即使他们在微笑”。
这些可疑的科学和失控的监控已经在造成现实伤害。根据 2022 年《纽约时报》的一项调查，UnitedHealth 的社工在与患者通话时因键盘不活动而被降级。美国公民自由联盟（ACLU）指称，筛选平台 HireVue 及其客户 Intuit 曾拒绝给一名聋人无障碍团队员工晋升，拒信还建议她“练习积极倾听”。HireVue 和 Intuit 都对这些指控提出了异议。
欧盟已经根据《AI法案》禁止了这类用于工作场景的情绪 AI，只有出于医疗和安全目的才有例外。MorphCast 则通过将其总部从佛罗伦萨迁至旧金山湾区作出回应。The Atlantic 援引的一项估计显示，到 2030 年，全球市场规模预计将增长三倍，达到 90 亿美元。
Cushing 以一个反乌托邦式的转折作结：比有缺陷的系统更令人不安的，是这样一个未来——软件真的能正常运作，而工人除了做自己本来的工作之外，还要承担“让情绪机器人觉得我足够开朗”的工作。”
来源与参考