监管机构发声
英国儿童专员(Children's Commissioner)作为负责促进和保护英国儿童权益的监管机构，发布报告呼吁立即禁止能够"制作儿童深度伪造色情内容"的人工智能(AI)应用。
深度伪造危害
在AI时代，AI生成的"深度伪造"(即通过合成技术在虚拟场景中逼真重现真实人物的图像)已成为一个日益严重的问题。许多人都成为了AI深度伪造的受害者，包括名人，更令人担忧的是儿童。去年秋天，宾夕法尼亚州就发生了一起深度伪造丑闻，导致学校不得不暂时关闭。
儿童专员的报告显示，许多儿童向监管机构表达了担忧，他们害怕成为深度伪造的受害者。一些孩子深深担心同学、朋友或陌生人可能会制作他们的性暗示深度伪造图像。
专员建议
儿童专员瑞秋·德·苏扎(Dame Rachel de Souza)表示："女孩们告诉我，她们现在主动避免发布图片或在网上互动，以降低被这项技术盯上的风险。这些特定应用在我们的社会中没有立足之地。"
虽然英国在2024年已将制作色情深度伪造定为犯罪，并在今年早些时候将拥有或传播某些色情深度伪造材料定为非法，但德·苏扎指出，违规的"裸体化"应用仍然可以在主要搜索引擎和应用平台上轻易获取。
具体措施
德·苏扎提出了多项紧急行动建议：
- 全面禁止所有使用AI生成儿童色情"深度伪造"图像的应用
- 为应用开发者制定法律责任
- 简化从互联网删除儿童色情深度伪造图像的流程
- 将深度伪造色情虐待材料正式认定为针对妇女和女童的暴力形式
报告同时指出，深度伪造欺凌可能导致受害者产生自杀倾向，呼吁法律要严肃对待深度伪造对儿童造成的伤害。