网飞（Netflix）首席执行官泰德·萨兰多斯（Ted Sarandos）近期称人工智能将帮助创作者"更好、更快地讲故事，并开创新的叙事方式"。然而，OpenAI最新推出的视频制作工具Sora 2却在社交媒体平台上引发争议。
在Instagram、YouTube和TikTok等平台上，Sora 2被用于制作带有歧视色彩的视频内容。一段获得近百万次播放量的视频展示体重超重者蹦极导致"桥梁坍塌"的场景，另有视频展现黑人女性"掉入肯德基（KFC）地板"的情节，这些内容同时包含种族歧视和身材羞辱元素。
https://se-hk-image.oss-cn-hongkong.aliyuncs.com/se/image/e62045eac3c2f6a00bcdd9317e9d2f80.jpg
Sora 2的出现大幅降低了制作仇恨内容的技术门槛。原本需要专业制作技能的视频内容，现在可以在短时间内完成生成。这不仅暴露了AI安全管控机制的失效，也凸显了重大的伦理风险。
https://se-hk-image.oss-cn-hongkong.aliyuncs.com/se/image/75e1f2fb2fc92ad2f96c64ffa0e36011.jpg
此类内容的传播正在影响公众特别是青少年的认知。由于AI生成内容与真实画面的界限日益模糊，许多观众无法辨别视频真伪，导致错误认知的扩散。随着这类视频获得病毒式传播，更多创作者可能为追求流量而制作类似内容。
面对争议，OpenAI目前保持沉默。监管机构已开始关注这一问题，如何在保持技术创新的同时防止滥用，成为亟待解决的课题。这需要平台方、技术公司和监管机构共同努力，建立有效的内容审核机制。
