AI聊天机器人或可胜过人类建立诈骗信任
Ars Technica AI··作者 Andy Greenberg, wired.com
关键信息
这项研究来自印度的阿姆里塔·维什瓦·维迪亚皮塔姆、威尼斯卡福斯卡里大学、墨尔本大学以及内盖夫本-古里安大学的研究人员。研究者在模拟中让 AI 聊天机器人与人类对比，测试其在长期建立信任阶段的表现，结果显示它能有效冒充真人，并且在某些指标上优于人类参与者。
资讯摘要
这篇文章讨论了生成式 AI 如何正在改变诈骗操作，尤其是在与受害者沟通时让话术更流畅、更像真人。文章指出，这已经不只是理论上的担忧，因为诈骗者确实可以利用 AI 让欺骗内容更精致、更有说服力。报道的核心问题是：AI 是否不仅能协助人类诈骗者，甚至可以在通往虚假投资诱导的整条“长线骗局”中完全取代人类。为回答这个问题，来自四所大学的研究人员研究了生成式 AI 聊天机器人在“杀猪盘”诈骗中的潜力。这类诈骗通常从文字聊天式的“恋爱”或建立关系开始，随后逐步转向虚假的加密货币投资邀请。
此类骗局往往依赖长时间、耐心的对话，有时会持续数月，直到受害者被要求转账。研究人员在模拟环境中让 AI 聊天机器人与人类诈骗者直接对比，重点测试建立关系和信任的阶段。结果显示，这种聊天机器人能够非常有效地冒充真人，并且在某些指标上甚至优于人类参与者。文章因此认为，诈骗防范面临一个明显信号：许多最耗时、最依赖耐心的诈骗环节，未来可能更容易被自动化。
资讯正文
如今，任何在打击每年在全球窃取数百亿美元的诈骗活动的人，都不得不面对这样一个现实：骗子可以利用 AI 来磨砺他们的欺骗手段、润色措辞，并让与受害者的闲聊更加顺滑。但 AI 能否完全取代人类骗子，独立构建起那张通向虚假投资、最终骗走受害者钱财的欺诈网络？一项研究的实验表明，它可以——而且在执行这场漫长骗局的大部分环节时，甚至可能比人类做得更有效。
来自四所大学的研究人员——印度的 Amrita Vishwa Vidyapeetham、威尼斯福斯卡里大学、墨尔本大学以及以色列本-古里安大学——就生成式 AI 聊天机器人在不断扩大的诈骗产业中的用途和潜力展开了一项广泛研究。该产业的核心是一种名为“杀猪盘”（pig butchering）的诈骗形式：先通过文字聊天建立恋爱关系，随后转向虚假的加密货币投资，最终从受害者手中骗走高达六位数的金额。在这项研究中，研究人员将 AI 聊天机器人直接与人类对手进行比较，在一个诈骗过程的模拟中展开对抗——更具体地说，是比较那些最终会引导受害者被诱导进行虚假投资的、用于建立信任的漫长对话。
他们发现，在诈骗中建立关系的阶段——而在现实诈骗里，这一阶段通常占与受害者互动的最长部分，往往持续数月——AI 聊天机器人表现得异常有效，成功地冒充了人类，并且在某些指标上甚至超过了实验中的真人“骗子”。
来源与参考
收录于 2026-08-01