Al电信诈骗案例 防诈骗班级：时间：2023年4月11日近日，“某科技公司老板遭遇AI换脸诈骗”一事引发网友热议。4月20日中午，郭先生的好友突然通过视频联系他，称自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。事后，郭先生拨打好友电话才知道被骗，原来骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备”，郭先生说。01魔幻一幕令人吃惊，但这并非AI换脸第一次作恶了。2022年2月，有位陈先生到浙江温州市公安局瓯海分局仙岩派出所报案称，自己被“好友”诈骗了近5万元。经警方核实，诈骗分子利用陈先生好友“阿诚”在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技术合成，制造陈先生与“好友”视频聊天的假象骗取其信任，从而实施诈骗。2021年拱宸桥派出所接到报警，受害人小陈称他在与女网友视频聊天后被对方敲诈勒索。经警方调查，对方利用AI换脸技术，将小陈视频中的面部合成到不雅视频中，借此对其实施勒索。2020年，上海某公司高管因对方使用AI换脸与人工生成的语音技术制作公司领导的面孔，并要该高管转账，致使该高管被诈骗150万元。02AI换脸除了被用于诈骗，还经常出现在直播带货中。近日，有网友点开直播间，发现正在卖货的竟是当红女星。然而再定睛一看，这些带货“明星”很快露出了马脚——身穿中式服装，正在卖力带货的“明星”们，其实只是使用了AI实时换脸技术的普通主播。利用人工智能（AI）手段为视频中的人物“换脸”，这项技术已经发展到可以实时动态修改直播画面。从网上搜索相关AI换脸直播教程发现，这些教程通过视频、文章等形式传播，并提供换脸直播工具的下载渠道。有的需要付费，有的通过点赞、关注、评论就能获取。教程发布者声称实时变脸软件可以帮助用户轻松变脸，打造特效直播间，极大地助力引流卖货。同时他们表示有很多模型可供选择，这些模型用中外明星艺人、影视角色或政商名人的名字命名。在一个展示换脸直播效果的视频中，使用者把某明星的脸部模型载入相关软件后，摄像头前的人在直播画面中就有了与该明星相似的五官，但脸型和发型还保持原样。使用者歪头或变换表情时，五官动效切换得自然顺滑，只有手掌从脸前划过时，出现了比较明显的破绽。北京某律师事务所高级合伙人岳屾山律师表示，换脸直播 |
