案件概况
西班牙警方正在调查一名17岁少年，他涉嫌使用人工智能(AI)制作女同学的虚假裸体视频，并试图在网上出售。在西班牙东南部瓦伦西亚一所学校的16名女学生报告遭遇AI生成裸体视频在网络传播后，警方展开调查。
案件进展
调查始于2024年12月，一名女学生发现有人以她的名义创建社交媒体账号，发布AI生成的视频。随后她又发现另一个冒用其名义的账号，以及其他含有AI生成裸体视频的账号，还有一个专门出售这些图片的商业网站。
在另外15名未成年人提出类似投诉后，民防警卫队(Guardia Civil)通过审查社交媒体活动、联系托管公司及检查AI图像修改服务网站，最终锁定嫌疑人。目前，这名17岁少年因涉嫌腐蚀未成年人正在接受调查，案件已移交瓦伦西亚少年法庭处理。
AI滥用现状
近两年来，随着AI技术快速发展，高中生使用易获取的AI应用制作同学深度伪造(deepfake)裸体图片的案件频发。这类深度伪造应用程序只需一张照片即可生成逼真的裸体图片，将穿着衣服的照片数字重建为裸体影像。
2024年3月，美国佛罗里达州迈阿密两名少年因制作同学的深度伪造裸体图片被捕，这是美国首例涉及AI生成性内容的刑事指控案件。此次西班牙案件显示，问题正在升级，青少年不仅制作虚假图片，还涉及制作色情视频。英国儿童事务专员已呼吁立即禁止可能导致"儿童深度伪造性虐待"的AI应用程序。