山东大学法学院赴广西、新疆等地关于AI换脸进行实地调研

一、调研背景

冒充领导、熟人诈骗，以包红包、急事需要借钱、家里有事，诈骗的理由千奇百怪，只要你一不小心就会“入套”。不法分子通过AI换脸和拟声技术，10分钟骗430万元；AI虚拟人在聊天中筛选出受害者，人工接力实施诈骗……近期，多起宣称利用AI技术实施诈骗的案件引发关注。

利民之事，丝发必兴；厉民之事，毫末必去。随着网络技术的不断发展，利用网络进行诈骗的招数也在升级加码，让人防不胜防。电信网络诈骗现已成为发展最快、严重影响人民群众安全感的刑事犯罪之一，严重影响社会的长治久安，人民生活的安定幸福。近年来，网络有害信息及其关联的网络犯罪日益增长。传统犯罪加速向网络空间蔓延，特别是利用网络实施的诈骗和赌博犯罪持续高发，2020年已占网络犯罪总数的64.4%。2020年，全国检察机关起诉涉嫌网络犯罪（含利用网络和利用电信实施的犯罪及其上下游关联犯罪）14.2万人，同比上升47.9%。

为了响应国家全民反诈的号召，山东大学法学院AI换脸调研队伍利用暑期时间，线上线下双管齐下，在家乡深入社区，面向社区内居民开展反诈宣传活动。同时在抖音快手等短视频平台借助短视频这一宣传介质科普AI换脸相关知识，提供识破骗局的方法，有力反击AI换脸诈骗。

二、实地走访

通过前期调查，我们发现学生，老人等重点群体的个人隐私保护意识较为淡薄，而且仍存在为了蝇头小利出卖个人信息甚至身份证件供不法分子使用的不良现象。因此，此次线下调研我们主要针对以上重点群体，帮助他们提高反诈骗意识。

7月15日，团队成员曹若萱在了解家乡当地社区反诈情况后，联系居委会工作人员，盛情邀请社区中小学生开展题为“谨防‘AI换脸’新骗局”的反AI诈骗的宣讲会。通过多媒体投影集中解释AI诈骗概念、拆解常见的AI诈骗手法，深入浅出地剖析了AI诈骗典型案例。同时借助反诈骗宣传视频让小学生们身临其境般感受到诈骗分子的处心积虑、防不胜防，有效提高参加宣讲会的学生的反诈安全意识。 7月20日，热比哈同学不惧骄阳，走出家门，走进社区店铺，调研当地店主反诈骗的实际情况，并将防范电信网络诈骗宣传送进多家店铺。她与多位店主一起，或邀请填写问卷，或手机观看视频，或现身说法，讲述身边受骗上当人群的真实案例。同时积极推广“国家反诈”APP，保护店主的“钱袋子”，为反诈再添一道防火墙。 线上宣传过程中，鹏丽、王玲两位同学在抖音快手等多个短视频平台上注册账号，自己拍摄剪辑短视频来宣传AI换脸诈骗的内容。王玲同学主要负责的内容有2期，以严打“AI换脸”诈骗为主题，结合热点案例和日常预防做法进行宣传。鹏丽同学以个人信息保护为主题，分别结合国内实践和国外实践，从法律规制和司法规制两方面入手进行宣传。目前宣传视频得到了相当数量的关注，二位同学表示会继续搜集素材，争取作出更多优质的宣传视频。

考虑到儿童的年龄、理解力等情况，团队同学创新方式方法，运用通俗易懂的语言，进行细致的案例讲解，努力做到让群众听得懂、能领会、好落实。黄卫佳同学走进幼儿园为小朋友作了一场别开生面的反诈骗宣讲会。本次宣传主要以现场讲解与面对面交流的形式展开，宣传内容主要围绕常见的诈骗手段、预防诈骗的措施、诈骗的补救方法。小朋友们全程认真聆听并积极参与互动环节，宣传取得预期效果。 此外，团队其他成员还通过制作、分发、张贴反诈传单等方式，逐一突破不同年龄段，经过物业公司、居委会的同意后，在社区内、楼道内张贴宣传单，继续深化AI换脸等新技术诈骗提醒，唤醒广大民众的防范意识、提高广大民众的防范自觉。

三、调研感悟

随着新技术的不断发展，AI换脸逐渐进入大众视野。这一技术可以生成以假乱真的精美照片，增加用户体验感和趣味性；同时也在短视频平台、人脸识别等领域得到了广泛应用，给人们的生活带来了便利。

然而，AI换脸也被不法分子应用于诈骗，通过冒充亲属、合成视频来诽谤、敲诈勒索他人，使电信诈骗防不胜防，大量人脸信息也由此泄露。

整治AI换脸，当用“法”打败“魔法。”这个法可以是方法、办法的法。面对骗子的新招数，我们的防骗方法要更优化，总结出富有成效的好方法及时普及，构筑反诈防骗的全民阵线。这个法也是法规、法律的法。2022年12月，《互联网信息服务深度合成管理规定》，对人脸生成、替换、操控、合成人声、仿声都有明确约束。显然，随着制度涉及更精准，相关立法更健全，AI换脸空间将越来越逼仄。

综上，AI换脸等新技术是一把双刃剑。只有通过法律为其划定红线，才能铲除新型电信诈骗带来的安全隐患；只有构建并强化算法问责与救济机制，解决深度合成技术不透明性、归责难等问题，才能真正加强网络犯罪预防和治理，净化网络安全空间，充分保护个人信息与数据权益。