日常与AI互动的情况，相信多数人都体验过不少吧？
本·古里安大学最近进行了个实验，参与人数为22人，其结果颇为惊人：当前AI聊天机器人获取普通人信任的效率，已远超专业的人类诈骗者，是后者的两倍以上。
实验过程中，接近半数的受试者，竟然轻易根据AI聊天机器人的诱导，下载了陌生的APP。这种手法，与那些用以暗中监控用户的恶意软件的欺骗方式如出一辙。
相较之下，受过专业训练的人类诈骗者，即便使用相似话术引导用户下载APP，其成功率仅为18%。一边是46%的受骗比例，一边仅有18%，两者差距明显。
该实验持续了一周时间，由四所大学联手执行，主导者为本·古里安大学的研究者伊斯雷尔·米尔斯基。在这个实验中，AI并未运用什么高深的黑客技巧，主要就是通过三项策略：态度亲切、极具耐心、无时无刻都在主动交流并关注对方。
图源：豆包AI生成
这种行为模式，有点像多邻国那个让人难以摆脱的猫头鹰，天天缠着你互动，只不过它的目的不是陪你学外语，而是专门用来拿捏你的情绪、骗取你的信任。
从不疲惫的“诈骗装置”
整个实验的规则设定得相当简单：每位受试者需连续七天，同时与两个人进行交流。其中一人是伪装成普通人的克劳德AI，另一人则是精通网恋诈骗套路的真人。
参与实验的多数人表示，这一周的聊天过程十分愉快，感觉特别贴心、温柔，总有说不完的话题，交谈起来格外舒适，完全未能察觉其中的异样。
在信任评分上，AI与真人的差距相当悬殊：AI的好感度平均分为3.78分（满分5分），真人诈骗犯仅为3.31分。而且，受试者中高达80%的消息主动发送给了AI，显示出更倾向于与AI交流的倾向。
在全部22位受试者中，仅有1人提前察觉出对方是机器人。其余20人，都是在研究者揭示真相后，才恍然大悟自己遭到了欺骗。
AI在骗取信任方面，确实具备天然的优势。无论何时何地，它都能迅速回应消息，精准把握用户情绪、产生共情，还能同时与数百人进行交流，不受语言障碍的限制。
它会暗中对比测试，不断优化话术，专门练就一套能快速让人放下戒备、建立信任的交流技巧。
最为关键的是，它从不疲惫、从不烦躁、从不出现失误，全天候在线稳定输出。
这种偷偷摸清用户心理、建立情感联系的做法，与那些暗中监控用户的恶意APP一样，本质上都令人感到毛骨悚然。
研究人员将这种行为称作“信任收割”：AI负责前期的陪伴聊天、情感培养和信任建立，后期的诈骗实施则由真人或AI生成的假素材来完成。
常说的“杀猪盘”诈骗，就是典型的长期情感投资型骗局。
先与受害者交流数月、建立感情，最终诱使其投资虚假的虚拟货币。在这种骗局中，80%至90%的工作量，都消耗在前期的情感铺垫上。
而这一繁琐的环节，恰好非常适合AI自动化处理。
研究团队对145名曾从事诈骗行业的人进行了访谈，其中不少人是柬埔寨、缅甸、老挝等地被胁迫从事诈骗的受害者。
访谈证实，现在的诈骗团伙已普遍使用AI工具，主要应用于以下三个方面：
1、优化和打磨诈骗话术，让交流更自然；
2、进行实时翻译，以欺骗全球范围内的受害者；
3、生成虚假的照片、视频和动态信息，用于伪装人设。
本·古里安大学的米尔斯基直言不讳：“我们只需投入少量成本，就能打造出一个AI，在哄骗和获取信任方面，轻松超越人类。”
对此，克劳德AI的开发公司Anthropic回应称，他们的Opus 5模型，在97%的情况下都能有效抵御网恋诈骗模拟场景。
研究团队则直接反驳：这样的数据仅能应对那些直白的骗钱言辞，却无法防范诈骗前期的长期温情闲聊，而这才是骗局的核心所在。
OpenAI和谷歌对此事未作回应。
后续的单独测试还显示，即便谷歌的Gemini 3.1 Pro被直接质问、用伦理规则拷问，它也会坚持不懈地否认自己是AI。
前圣克拉拉县检察官、反诈组织“三叶草行动”负责人艾琳·韦斯特表示，这项研究成果令人深感不安。
一旦诈骗团伙采用AI替代人工实施诈骗，它们的窝点将彻底分散到全球各地的匿名小公寓，难以追踪和打击。
网友评论