荆楚网(湖北日报网)讯(记者 白云 通讯员 陈善文 李中楠)利用AI换脸通过互联网平台验证系统,神不知鬼不觉就能篡改企业法定代表人信息?9月9日,武汉网警通报,成功侦破全省首起利用AI换脸技术非法侵入计算机信息系统的案件,抓获阿成(化名)等4名犯罪嫌疑人。经查,阿成利用AI换脸技术非法获利达40余万元。
“你们公众号怎么开始推荐投资理财APP了?这靠谱吗?”6月10日,某MCN 机构工作人员像往常一样打开公司公众号评论区,却被一连串的粉丝留言惊出了一身冷汗。
工作人员急忙查看公众号文章,惊讶地发现原本精心运营的账号,不知何时竟发文称即将停更,并号召粉丝关注另外一个投资理财类的账号。工作人员尝试登录账号后台,密码已被修改,甚至连公司法人代表信息都被篡改。
意识到事态严重后,工作人员第一时间向武汉警方报案。接警后,武汉网警迅速成立专案组,通过技术人员分析研判发现:被盗的社交媒体账号不仅认证信息被篡改,登录密码也已被更换,背后操作痕迹指向一套成熟的“AI换脸”技术。顺着线索层层追踪,专案组很快锁定了远在山东潍坊的犯罪嫌疑人阿成。
7月17日,3名民警赶赴潍坊实施抓捕。站在他们眼前的阿成皮肤黝黑、衣着朴素,看上去像一名普通务农人员,民警一度怀疑是否存在信息冒用。但在对其住所搜查时,办案民警发现大量AI 换脸视频素材。有了这些破解人脸识别系统的关键证据,阿成还想狡辩。
“我就是个美工,帮人做点图而已,怎么就违法了?”面对民警的审讯,阿成辩解自己只是“按上线要求干活”。然而,民警通过技术手段恢复了他已删除的电子数据,发现其账户内竟有价值40余万元的虚拟货币,这些资金均来自AI换脸“接单”的非法获利。
面对证据,阿成终于交代了犯罪事实。他从美术专业毕业后,因嫌美工收入不高,改行从事大棚种植。后来,又因为务农辛苦,开始在网上寻求兼职。2022年5月,他在外网接触到“人脸代过”的灰色产业,加入相关群组后,先在各类小型电商平台帮人制作人脸图像,每张收费200元;随着技术提升,他掌握了生成动态人脸视频的方法,“报价”也水涨船高,破解一张AI动态的人脸最高能卖到1000元。
此后,阿成负责完成AI换脸验证操作,而阿明(化名)、阿斌(化名)、阿华(化名)等3名上线则负责承接“人脸代过”需求、转交人员信息,并从中牟利。
“就像犯罪电影里的那样。”办案民警指出,犯罪嫌疑人通过AI软件骗过人脸验证系统的镜头,但镜头前的却不是本人。据警方介绍,在灰产链条中,犯罪团伙在受害人不知情的情况下,篡改企业法人信息,对企业进行非法控制。
阿成落网后,武汉网警又前往安徽六安将阿明、阿斌、阿华3人抓获。因涉嫌《中华人民共和国刑法》第285条非法侵入计算机信息系统罪,阿成等4人均被依法采取刑事强制措施,案件正进一步侦办中。
【警方提醒】
一、技术必须升级,安全不能“假面”。各大互联网平台要强化认证系统,采用活体检测、动态验证等防伪技术,杜绝一张静态照片或一段视频就能蒙混过关,筑牢安全第一道防线。
二、强化验证机制,守护账号安全。公司企业以及个人在使用互联网平台登录账号时,尽量开启并使用多重验证机制,例如将密码+短信验证码+人脸识别相结合,强化账号登录的安全性。
三、敬畏法律红线,法律底线不可逾越。掌握人工智能及相关技术的专业人员,切勿因一时贪欲走上违法犯罪的道路。利用AI技术从事违法犯罪活动,必将受到严惩。
四、注意个人隐私,保护个人信息。谨慎在公开的社交平台发布清晰的正脸照片、动态视频等,严格设置查看权限,防止个人信息被不法分子窃取和利用;时刻牢记凡是涉及个人信息被泄露或篡改以及涉及资金转账的,就必须提高警惕,主动核实。如遇可疑情况,立即报警处理。