AI虚假图像的威胁
AI生成的虚假照片正从无害到具有破坏性，甚至演变为极具危险性的威胁。加州大学伯克利分校（UC Berkeley）数字取证专家汉尼·法里德（Hany Farid）教授在真相保卫战中，分享了识别AI生成虚假照片的专业方法。
专业鉴定的迫切需求
在一场TED演讲（TED Talk）中，法里德教授展示了一个紧急军事情境：一名高级军官收到社交媒体威胁消息，声称已劫持四名士兵，若10分钟内不满足要求将处决人质。面对这种情况，专业鉴定的重要性不言而喻。
作为应用数学和计算机科学专家，法里德在过去30年专注于图像认证技术研发。他表示，随着生成式AI的发展和社交媒体的推动，需要鉴定的案例已从每月一次增加到现在的每天都有。
三大识别技术
- 残余数字噪声分析
真实数码相机会产生特定的噪声模式，而AI生成图像则通过条件响应去噪过程创建，两者具有明显区别。专业人员可通过分析图像的残余噪声判断其真伪。
- 消失点检验
AI系统缺乏对几何和物理规律的深入理解，导致生成的图像往往缺乏连贯的消失点。这一特征成为识别AI生成图像的重要依据。
- 阴影一致性分析
由于AI无法准确模拟物理世界规律，其生成的图像中阴影往往违背现实物理规则。
未来发展
法里德团队正在开发工具协助媒体和司法机构识别虚假照片。内容真实性倡议（Content Authenticity Initiative）致力于在拍摄时进行图像认证，通过内容凭证（Content Credentials）快速验证真实照片。
虽然目前没有完全准确的单一识别方法，但综合运用多种技术手段，可以有效识别AI生成的虚假图像。