AI “大学生” 骗了数百万美金

AI 不仅能替你上学，帮你写作业，甚至还能为你领笔 “补助金” 回来 —— 不过，前提是你得先教它怎么骗过活人。

这魔幻现实的一幕正在美国社区大学上演：诈骗集团用 ChatGPT 等等 AI 工具批量生成学生身份，专门盗取联邦和州政府的助学补贴。

这些 “赛博学生” 比人类更善于 “卖惨”，无家可归学生和寄养青年的身份伪装帮助他们更快通过申请。课堂表现更堪称模范，不仅能抢课占位，出勤率甚至比真学霸还高，还能准时交作业。

魔幻的背后，是技术与人性的博弈。YouTube 上，甚至有人发布 “教学” 视频，展示了自动化程序如何绕过 Contra Costa College 的入学审核系统。

这些 “赛博学生” 已经帮助诈骗集团收割了数百万美金。根据 CalMatters，2022 年 6 月，教育部对洛杉矶海港学院（Los Angeles Harbor College）和西洛杉矶学院（West Los Angeles College）一个诈骗集团展开调查，该集团在过去四年中利用至少 57 人的身份窃取超过 110 万美元联邦援助。洛杉矶城市学院（Los Angeles City College）另一诈骗案可能涉及超过 100 万美元，盗用 70 人身份。

校方也不得不为此支付高昂的费用，借助专业的技术手段侦破骗局。加州校长办公室统计，2023 年社区大学申请者中高达 25% 是机器人，而校方为此支付的防欺诈费用已超过 25 万美元。

然而，这场校园骗局不过是 AI 侵蚀现实世界的冰山一角。

从伪造 “全红婵家新房开工” 的带货视频，到用雷军的声音生成骂人内容；从 “假靳东” 骗取老人 20 万元，到宝妈被 AI 恋人骗走 200 万元，AI 诈骗已渗透社交、消费、金融的每一个缝隙。

在这场 AI 技术与人类的认知攻防战中，人类正面临一场前所未有的信任危机 —— 我们还能相信自己的眼睛和耳朵吗？

一、AI 学霸攻陷社区大学

“赛博学生” 们的伪装也并非毫无破绽。

2023 年，伯克利市立学院（Berkeley City College）图书馆员道奇（Heather Dodge）在线上课程中要求学生用 iPhone 或网路摄影机拍摄基本自我介绍的影片作业，但发现 4 名学生提交的是类似 ChatGPT 生成的泛泛文字。

道奇开始怀疑他们的学生身份，但因为担心存在偏见，她要求对他们分别进行 Zoom 会议。其中两人没回应，一名学生同意进行视频会议，但表示摄影机和麦克风无法使用，另一名学生几乎不会说英语，每次透过 Zoom 提问，都用手机翻译。

除此以外，还出现了大量回复内容明显不合常理、几乎不可能是人类所写的账户。例如有的注册账号会在自我介绍中写出 “你好，我是 [请输入城市名称] 的学生” 这类明显的程序模板语句，或者使用学生通常不会用的文法。

这些 “赛博学生” 通过注册课程并保持足够长的注册时间，为了维持在校身份，TA 们会提交由 AI 生成的作业。

TA 们的目标是社区大学的助学金。作为两年制的公立大学，美国社区大学学费通常低于四年制大学。由于招生对象以本地学生为主，州和联邦政府也会提供助学金支持。

加州法律要求社区大学接受所有合法学生，且长期致力降低注册门槛，学生需签署宣誓书，保证其资讯真实性，但许多大学不会独立核实学生身分。部分学院声称对无家可归或曾寄养青年的申请者较为宽松，这一漏洞正被诈骗者利用。

等到助学金发放后，“赛博学生” 再退课，从中获取资金。

教师们也面临甄别真假学生的挑战。Southwestern College 教授伊丽莎白・史密斯透露，她原本课程注册的 104 人中，仅确认其中 15 人为真实学生，其余均被她判断为机器人。“起初我还为课程受欢迎感到开心，现在只剩下满心失望。”

但在许多情况下，人工判断并不容易，还需要借助专业的技术手段，当然也需要学校支付不菲的费用。

洛杉矶社区学院副校长洛佩兹（Nicole Albo-Lopez）表示，去年因诈欺行为，学区删除约四分之一课程注册，学校向身份验证公司 Socure 支付超过 25 万美元协助侦测诈欺。

当 “赛博学生” 在校园中悄然蚕食教育资源时，一场 AI 信任危机正在社会各个角落悄然蔓延。

二、AI 骗局随处可见

AI 诈骗的触角早已突破校园围墙，在国内，自带光环的公众人物正在成为首批大规模受害者。

近日，社交平台上出现多个账号使用 AI 合成的全红婵爸爸、哥哥声音，用完全相同的文案介绍家里要盖新房，以此来博取流量。

在 AI 合成视频中携带有骆驼奶粉、土鸡蛋、洗衣液等多种商品链接，流量较大的仿冒作品评论区中，不乏有人被骗下单购买，部分消费者收到三无产品后投诉无门。

事实上，利用 AI 伪造视频的现象并不罕见，此前曾有多位明星成为 AI 伪造视频的素材。

半个月前，张馨予公开谴责商家用 AI 合成其声音推销减肥药。一个月前，刘晓庆也遭遇 AI 换脸视频冒用，公开表示 “声音像我却非我”。

“去年‘十一’，有网友说过了 7 天假，被我整整骂了 8 天。是什么（情况）？网上出现了非常多（AI 生成的）用我的声音骂人的内容。” 今年 3 月，小米集团创始人雷军在两会期间就表示，他本人就是 AI 换脸拟声的受害者。

“假靳东” 诈骗老年人、“国庆 7 天 AI 雷军骂了 8 天”、“张文宏” 深夜带货等一众 AI 假冒名人的新闻频频出现在热搜榜单上，已经引起今年两会代表委员的高度关注，呼吁通过法律手段来加强对 AI 诈骗的管理和约束。

与此同时，AI 诈骗早已突破名人圈，渗透至社交陷阱、消费欺诈和信息泄露等生活高频场景。

不久前，AI 假孙子的视频就让不少老年人深陷其中，视频里穿纸尿裤的婴儿独自去地里摘茄子、洗净后还能抄起菜刀给全家做三菜一汤。这些违背常理的内容，在年轻人看来简直让人难以置信，却丝毫不影响评论区 “幸福时光”“幸福快乐” 等老年用户留下点赞和祝福。

如果说面对 AI 假孙子，老年人只是投入感情，那在面对假 “靳东” 的时候，则是情感金钱双投入。在假 “靳东” 诈骗案中，其中最典型的一例是 60 岁阿姨向假靳东转账近 20 万元。

传统电诈中，诈骗分子集中围猎 “一老一少” 的情况比较常见，面对完全可以以假乱真的 AI 诈骗，年轻人也和老年人一样没有招架之力。

利用换脸和换声技术，AI 化身 “虚拟恋人”，用精心设计的话术和人设，把受害人迷得晕头转向，最后露出 “骗钱” 的真面目，类似网络交友诈骗案例屡见不鲜。

据《中国青年报》报道，2023 年，宝妈王枚（化名）在境外求学期间通过社交平台结识伪装成房东的男性网友，对方利用 AI 换脸换声技术获取其信任并发展恋爱关系。随后以投资加密货币为名诱骗其小额试水获利，逐步诱导加大投入，致使王枚抵押房产、网贷累计损失约 200 万元，最终提现受阻发现被骗。

从名人到普罗大众，AI 诈骗正无孔不入。

三、AI 黑产已成产业链

AI 骗局在现实中肆意横行，而在这背后，一个庞大且复杂的 AI 黑产产业链正悄然成型。

在电影《孤注一掷》中，大型诈骗集团由成百上千名诈骗分子组成，集团内部分工明确。如今，AI 技术普及让诈骗门槛大幅降低，一两名诈骗分子就可以展开个人作案，AI 技术承担了从目标筛选到身份伪装的一系列工作。

几年前 “假靳东” 进行情感诈骗时还需要有真人来扮演，可现在 AI 生成的虚拟人物不仅更逼真，而且更懂老年人的需求。

事实上，AI 黑产由来已久。

早在 2017 年，一个名为 “deepfakes” 的 Reddit 用户在社交网站上发布了斯嘉丽・约翰逊等女演员的换脸视频，使得 “Deepfake” 成为了 “AI 换脸” 的代名词。

模型公布后引发轰动。网络上随即开始出现大量使用 Deepfake 合成的色情视频，其中不少视频女主角的人脸被替换为斯嘉丽・约翰逊、盖尔・加朵等大牌女星。

这给女星们造成了极其恶劣的负面影响，最终在粉丝的谴责中，视频被删除，相关论坛也被封禁。

但由于相关技术的源代码都免费开放，很快，一系列 AI 换脸软件在国内风生水起，包括 ZAO、去演、颜技和 AI 换脸等。

在号称 “仅需一张照片，出演天下好戏” 的 ZAO，只需一张正面照，就能生成十分真实且灵动的最长可达一分钟的视频，吸引了大量用户关注。但很快，ZAO 的霸王条款和隐私泄露等问题遭到人们质疑，其发行公司陌陌也随即遭到工信部约谈。

虽然 AI 换脸、AI 脱衣以及 AI 语音和视频这些技术早已有之，但随着 ChatGPT 的火热，这些技术再次回到大家的视野，甚至变得更加逼真，更加低门槛。

更让人担忧的是，AI 诈骗已经形成了 “生成 - 传播 - 洗钱” 的完整产业链。

上游技术提供者通过暗网兜售 “AI 换脸套餐”，价格从几百元到数万元不等。中游推广者则利用非法获取的个人信息库，通过短信、社交软件精准投放诈骗信息。下游洗钱者则通过虚拟货币、跑分平台等渠道转移资金。

除此以外，AI 诈骗也越来越普遍。

在一起山东警方破获的 AI 诈骗案中。受骗人在收到冒充他的亲戚的信息后，还收到了他打来的视频，尽管在 7 秒的视频中连线有些许卡顿，但是声音和样貌都让受骗人确认了对方的身份，进而向对方账户转账。

近一段时间以来，这种案例屡见不鲜。福州某科技公司法定代表人郭先生，也因为 AI 伪造的微信视频，在短短十分钟内，就被骗了 430 万。

AI 的进化史，也是一块人性的试金石。当 “赛博学生” 以公益之名掠夺教育资源，当 “虚拟恋人” 以温情为饵榨干受害者积蓄，技术的双刃性从未如此锋利。

本文来自微信公众号：直面 AI，作者：张琳，编辑：肖阳