AI 聊天机器人能比人类骗子更会建立信任
Ars Technica AI··作者 Andy Greenberg, wired.com
关键信息
来自印度阿姆里塔大学、威尼斯福斯卡里大学、墨尔本大学和内盖夫本-古里安大学的研究人员，在模拟诈骗对话中比较了 AI 聊天机器人和人类的表现。结果显示，聊天机器人在通常持续数月、并在投资诱导前发生的长期关系建立阶段，尤其有效。
资讯摘要
文章指出，骗子早已在利用 AI 来润色语言、改进话术，但更重要的问题是，AI 是否最终能取代人类骗子，承担起最耗时的那部分欺诈工作。为此，来自四所大学的研究人员把生成式 AI 聊天机器人放进“杀猪盘”诈骗场景中进行研究。所谓“杀猪盘”，是一种网络恋爱和投资诈骗，骗子先通过长时间的文字聊天建立信任，再把受害者引向虚假的加密货币投资。此类骗局往往会持续数月，并可能让受害者损失六位数金额。
实验中，研究人员比较了聊天机器人和人类在模拟诈骗流程中的表现，重点关注建立信任的阶段，而不是最后索要钱款的环节。结果显示，这个聊天机器人能够相当逼真地冒充人类，并且在某些指标上甚至超过了人类参与者。文章因此提醒，支撑许多真实诈骗的“长线铺垫”过程，可能正在变得可以被部分自动化。
资讯正文
如今，任何在打击每年在全球窃取数百亿美元的诈骗活动的人，都不得不面对这样一个现实：骗子可以利用 AI 来磨砺他们的欺骗手段、润色措辞，并让与受害者的闲聊更加顺滑。但 AI 能否完全取代人类骗子，独立构建起那张通向虚假投资、最终骗走受害者钱财的欺诈网络？一项研究的实验表明，它可以——而且在执行这场漫长骗局的大部分环节时，甚至可能比人类做得更有效。
来自四所大学的研究人员——印度的 Amrita Vishwa Vidyapeetham、威尼斯福斯卡里大学、墨尔本大学以及以色列本-古里安大学——就生成式 AI 聊天机器人在不断扩大的诈骗产业中的用途和潜力展开了一项广泛研究。该产业的核心是一种名为“杀猪盘”（pig butchering）的诈骗形式：先通过文字聊天建立恋爱关系，随后转向虚假的加密货币投资，最终从受害者手中骗走高达六位数的金额。在这项研究中，研究人员将 AI 聊天机器人直接与人类对手进行比较，在一个诈骗过程的模拟中展开对抗——更具体地说，是比较那些最终会引导受害者被诱导进行虚假投资的、用于建立信任的漫长对话。
他们发现，在诈骗中建立关系的阶段——而在现实诈骗里，这一阶段通常占与受害者互动的最长部分，往往持续数月——AI 聊天机器人表现得异常有效，成功地冒充了人类，并且在某些指标上甚至超过了实验中的真人“骗子”。
来源与参考