2024 年 8 月 9 日，#AI 换脸以假乱真 ## 你能分辨出 AI 吗 #的新闻引发了广泛关注。AI 实时换脸技术已经达到了以假乱真的程度，视频中展示了一位小哥变身少女的过程，眨眼、嘟嘴等各种表情都能实时同步。虽然视频作者没有公布具体技术，但评论区有人提到了 Deep-Live-Cam 项目。该项目的效果甚至更加逼真，只需上传一张马斯克的照片，就能生成马斯克坐在你面前的画面，光影效果也能实时同步，贴合面部轮廓。然而，使用此类项目时，请务必仔细阅读相关免责声明，并提高警惕，谨防诈骗。
AI 换脸技术的应用范围广泛，从娱乐到影视制作，再到社交媒体上的搞笑视频，几乎无所不在。这项技术的滥用也带来了严重的风险，尤其是在诈骗领域。2023 年 5 月 26 日，浙江潮新闻报道了一起利用 AI 换脸技术进行的诈骗案例。福建的郭先生在微信视频中被 “好友” 骗走了 430 万元。诈骗分子通过非法获取他人个人数据，运用黑灰软件替换数据信息，成功实施了诈骗。
类似的案例并非个例。2024 年 8 月 7 日，湖北黄石市公安局破获了一起用 AI 换脸技术解冻社交账号并倒卖获利的案件，三名男子非法获利超过 40 万元。宁夏通信管理局也提醒公众，随着 AI 技术迅猛发展，生成式 AI 换脸拟声技术的使用场景不断涌现，但由此衍生出的新骗局也给个人信息安全及财产安全带来风险。
面对 AI 换脸技术带来的风险，法律和监管措施显得尤为重要。2023 年 11 月 25 日，国家互联网信息办公室、工业和信息化部、公安部联合发布了《互联网信息服务深度合成管理规定》，要求深度合成服务提供者对使用其服务生成或编辑的信息内容添加不影响使用的标识，避免公众混淆或误认。2024 年 4 月 11 日，国家网信办起草了《生成式人工智能服务管理办法》，进一步明确了 AI 内容的真实性和合法性要求。
专家们也提出了多项建议。浙江金道律师事务所律师夏文忠表示，普通人应提高警惕，涉及汇款转账时，通过多个渠道核实对方身份与信息，增强自我保护意识。法律手段也是维权的重要途径，对被 AI 换脸损害肖像、名誉权等人员，通过法律手段维权。
公众防范措施同样不可忽视：
- 加强个人信息保护意识，不轻易提供人脸、指纹等个人生物信息给他人。
- 陌生链接不要点，陌生软件不要下载，陌生好友不要随意添加，不明二维码不要随意扫描。
- 做好个人防护，安装安全软件，防止手机和电脑中病毒。