深度伪造诈骗催生DetectifAI设备端语音检测
TechCrunch AI··作者 Connie Loizos
关键信息
DetectifAI表示，它从一开始就为智能手机设计小型模型，而不是压缩大型云端模型，并计划向手机制造商授权其软件开发工具包。该公司称目前每月为印度金融机构处理超过10万通电话，但没有公开客户名称，也未提供独立的检测准确率证据。
资讯摘要
Tarini Padmanabhuni的祖父曾接到一个听起来像他兄弟的电话。来电者谎称其兄弟被绑架，并要求支付赎金；祖父付款后才得知兄弟当时安然无恙，且完全不知道这场骗局。Padmanabhuni表示，最令她难以释怀的并不是损失的钱，而是祖父没有办法判断电话中的声音是假的。大约两年后，她创办了总部位于旧金山的DetectifAI，专门开发应对AI语音诈骗的技术。
她说，现有的深度伪造语音检测产品通常运行在远程云服务器上，因此手机厂商很难把检测功能直接集成到设备中。DetectifAI则从设计之初就开发适合手机运行的紧凑型模型，目标是在电话、语音消息及其他音频中即时判断声音是否由AI生成，同时不让音频离开设备。公司计划向手机厂商授权软件开发工具包，也会向企业和反欺诈公司授权技术。Padmanabhuni称，DetectifAI已经获得早期收入，并为印度金融机构每月处理超过10万通电话，在这些电话中结合使用深度伪造检测和说话人验证，以检查处理催收及贷款文件跟进的AI语音代理。
资讯正文
电话打来时，Tarini Padmanabhuni 的祖父以为自己正在和弟弟通话。电话那头的声音说，他的弟弟被绑架了，想把人救回来，唯一的办法就是支付赎金。她的祖父付了钱，后来才得知弟弟当时完全在别的地方，对这一切毫不知情。结果证明，那个声音是深度伪造的，是由人工智能生成的仿制声音。
“让我一直无法释怀的不是钱，”Padmanabhuni 谈到这起事件时说，“而是他根本没有办法分辨。”
那大约是两年前的事。如今，她表示，自己创立的总部位于旧金山的公司 DetectifAI，目标是确保其他人不会以同样的方式受骗。
这是一个规模庞大且不断增长的问题，与之相匹配的也是一个不断扩大的市场。根据美国联邦调查局（FBI）的数据，美国人去年因人工智能驱动的诈骗损失了近 9 亿美元，比 2024 年增加了 24%。60 岁及以上人群的损失金额是 50 至 59 岁人群的两倍。
深度伪造语音检测领域并不缺少竞争者，其中包括 Reality Defender、Pindrop、Resemble AI、Microsoft Azure AI Content Safety，以及 Nuance（后者同样归 Microsoft 所有）。但 Padmanabhuni 表示，如今的检测产品都在云端的远程服务器上运行，因此手机制造商无法将其直接集成到设备中，导致被攻击者几乎没有什么防御手段。
一些公司会将大型云端模型压缩到足以在手机上运行的规模，而 DetectifAI 的做法不同：该公司表示，它从一开始就设计紧凑型 AI 模型，使其足够小，可以在智能手机操作系统内部运行。其目标是在通话、语音消息及其他音频内容中，立即判断声音是否由 AI 生成，同时确保音频始终不离开设备。
DetectifAI 首先面向手机制造商销售产品，通过授权软件工具，让制造商能够将检测功能作为手机操作系统的内置功能推出。Padmanabhuni 用 AT&T 在初代 iPhone 发布时所扮演的角色来作比：当时，这家运营商凭借独家合作协议与竞争对手拉开了差距；她表示，首家搭载 DetectifAI 的手机制造商也将因此获得竞争优势。
产品的核心是 DetectifAI 的软件开发工具包（SDK）。这是一套代码包，其他公司可以将其集成到自己的产品中，并通过现有渠道获得授权。Padmanabhuni 表示，公司的第二条收入来源将是向企业和防欺诈公司授权这项技术。
与此同时，据 Padmanabhuni 透露，这家初创公司已经开始获得早期收入，目前每月为印度的金融机构处理超过 10 万通电话。这些电话由负责催收债务和跟进贷款文件的 AI 语音代理拨打，每通电话都会进行深度伪造检测和说话人验证，以确认来电者确实是其声称的身份。Padmanabhuni 以保密协议为由，拒绝透露客户名称。
Padmanabhuni 表示，她从 12 岁起便开始研究机器学习，后来进入印度 Manipal Institute of Technology 学习信息物理系统（将软件与实体机械连接起来的技术）。她称，自己后来成为 Formula Student 中印度首个无人驾驶赛车部门最年轻的团队负责人。Formula Student 是一项国际学生工程竞赛。
截至目前，DetectifAI 已从投资者 Josh Constine（TechCrunch 前编辑）和咨询服务公司 KM Growth 的负责人 Manohar Kamath 处获得一小笔种子轮融资。该公司是经 TechCrunch 编辑团队审核、获选参加其知名 Startup Battlefield 创业竞赛的初创企业之一。这项竞赛将在 10 月 13 日至 15 日于旧金山市中心举行的 TechCrunch Disrupt 大会上进行。
如果想了解 DetectifAI 以及参加今年竞赛的其他初创企业，并与为它们提供资金的人士交流，欢迎下个月加入我们。
来源与参考
收录于 2026-09-29