近日，一款名为 “赛博照妖镜” 的工具在社交媒体上引发了广泛讨论。该工具通过调整图像饱和度，揭示了 AI 生成的人像在牙齿和色块细节上的缺陷。具体来说，AI 生成的人像在高饱和度下牙齿边界模糊，整体颜色不均匀，而真实人类照片则不会出现这些问题。这款工具由 Claude 开发，利用 AI 技术破解 AI 生成图像。随着 AI 生成技术的进步，AI 人像变得越来越逼真，甚至可以以假乱真，成本也相对低廉。这一现象引发了网友们的广泛讨论和 AI 打假大赛，大家纷纷通过细节对比来辨别 AI 生成图像与真人照片的差异。
AI 生成图像技术的快速发展，使得人们对其真实性产生了越来越多的质疑。AI 换脸技术已经达到了以假乱真的程度，视频中展示了一位小哥变身少女的过程，眨眼、嘟嘴等各种表情都能实时同步。虽然视频作者没有公布具体技术，但评论区有人提到了 Deep-Live-Cam 项目。该项目的效果甚至更加逼真，只需上传一张马斯克的照片，就能生成马斯克坐在你面前的画面，光影效果也能实时同步，贴合面部轮廓。然而，使用此类项目时，请务必仔细阅读相关免责声明，并提高警惕，谨防诈骗。
AI 生成视频技术也在不断进步，但其生成内容的连贯性和一致性仍然是一个重要挑战。智谱 AI 的 CEO 张鹏在接受媒体采访时表示，视频生成大模型的商业化仍处于早期阶段，生成效果对物理世界规律的理解、高分辨率、镜头动作连贯性以及时长等，都有提升空间。快手可灵发布三个多月后，申请体验用户数量已突破 70 万，累计生成的视频作品达 700 万份；爱诗科技打造的 PixVerse 大模型在国内上线 88 天后，达到一千万次视频生成量。这些数据表明，用户对 AI 视频生成技术的需求强烈，但技术仍需不断改进以满足用户的期望。
AI 生成内容在多个领域得到了广泛应用。电影、电视剧制作方利用 AI 换脸技术，可以替换演员，节省时间和成本。广告行业也开始使用 AI 生成的虚拟人物进行宣传，降低了拍摄成本。然而，AI 换脸技术也带来了诸多风险。最典型的例子就是利用 AI 换脸技术进行诈骗。2024 年 8 月 7 日，湖北黄石市公安局下陆分局破获了一起用 AI 换脸技术解冻社交账号并倒卖获利的案件。三名男子把一些视频进行 AI 换脸，然后用换脸后的动态面部，来解冻一些已被平台冻结了的账号，非法获利超 40 万元。
为了应对 AI 生成内容带来的风险，多个公司和机构开发了 AI 生成内容的检测工具。OpenAI 推出了一款工具，能够检测由 AI 生成的图像和视频。微软也推出了一个新网站，帮助用户提高和增强他们的 AI 检测技能。AI 内容检测器可以帮助用户区分 AI 生成的内容和人类撰写的内容，确保信息的真实性。
AI 生成内容的法律和伦理问题也引发了广泛讨论。Meta 监督委员会呼吁加强应对非自愿裸露深度伪造图片，指出社交媒体平台需要采取更多措施来打击这一问题。AI 生成的色情内容威胁引起了广泛关注，包括泰勒・斯威夫特等名人、美国高中生以及世界各地的女性都成为这种网络虐待的受害者。广泛可用的生成式 AI 工具使得创建此类图片变得更快、更容易且成本更低。立法者和社交媒体公司面临着解决非自愿图片传播的新压力。