在这个数字化时代，人工智能（AI）技术的飞速发展不仅带来了许多便利，还引发了新的安全挑战。最近，微软呼吁美国国会立法禁止 AI 生成的深度伪造（deepfake）欺诈，这一问题日益严重。微软副主席兼总裁布拉德・史密斯在博客中指出，尽管科技公司和非营利组织已经采取了一些措施，但现有的法律需要更新，才能有效应对深度伪造带来的欺诈、滥用和操控风险。
深度伪造技术利用 AI 生成虚假音频、视频和图像，已经被不法分子广泛用于诈骗、操控舆论和侵犯隐私。微软希望通过立法，为执法机构提供必要的法律框架，以打击此类犯罪行为。此外，微软还建议 AI 系统提供者标记合成内容，增强信息透明度和公众信任。微软提议的 “深伪欺诈法” 旨在为执法部门提供法律框架，以便起诉那些利用 AI 生成虚假内容进行诈骗和欺诈的行为。法案还建议更新现有的儿童性剥削和虐待法律，涵盖 AI 生成的内容。
史密斯呼吁国会要求 AI 系统提供者使用溯源工具，对合成内容进行标记，帮助公众更好地理解哪些内容是由 AI 生成或被操控的。目前的法律在应对深度伪造欺诈方面显得力不从心。传统反欺诈法律主要针对人为制造的虚假信息，而深度伪造技术则利用 AI 生成高度逼真的音频、视频和图像，使得识别和追踪变得极为困难。微软认为，只有通过立法，才能遏制这一新兴威胁，保护公众免受深度伪造的侵害。
在全球范围内，各国政府和地区组织都在积极应对深度伪造带来的威胁。欧盟发布了《人工智能法案》（EU AI Act），将于 2024 年 8 月 1 日生效。这个法案通过监管框架，确保人工智能技术的安全和透明，不仅对 AI 系统的开发和使用提出了详细的合规要求，还设立了违规处罚机制。在美国，微软呼吁国会立法禁止 AI 生成的深度伪造欺诈行为。美国参议院也通过了一项法案，允许非自愿性 AI 生成的色情深度伪造受害者起诉其制作者。
中国的 AI 监管政策则更注重在技术发展与风险防控间找到平衡。中国政府在联合国框架内提出了《全球人工智能治理倡议》，倡导国际社会关注发展中国家的 AI 发展不平等问题，推动全球共治。国际合作在打击深度伪造方面至关重要。各国需要共享情报资源，联合研发技术解决方案，并制定统一的法律框架，以应对跨境电诈和深度伪造带来的全球性挑战。不过，不同国家的法律体系和执行力度存在差异，这为国际合作带来了不小的挑战。
技术公司在防范深度伪造中发挥着作用。微软、OpenAI 等公司已经开始采取措施，如使用 AI 检测工具和数字水印技术来识别和标记 AI 生成的内容。迈克菲在 CES 2024 上展示的 Deepfake 音视频检测技术，准确率超过 90%。公众的防范意识也至关重要。通过媒体宣传和社区教育，提升公众对深度伪造的认识，提醒大家在面对高收益承诺和陌生人推荐的投资项目时保持警惕，保护个人信息安全。