虚假信息专家塔尔·哈金（Tal Hagin）要求埃隆·马斯克（Elon Musk）开发的AI聊天机器人Grok验证X平台上一则关于伊朗导弹袭击特拉维夫的帖子时，验证结果完全失实。Grok不仅错误识别视频的位置和日期，还试图用AI生成的图片作为证据。
这一互动充分说明自2月28日美国和以色列对伊朗发动攻击以来，X平台已严重脱离事实。《连线》（WIRED）杂志报道指出，该平台迅速被虚假和重复使用的视频内容所淹没。
随着冲突持续，虚假信息传播情况愈发严重。带有蓝色验证标记的付费账号和伊朗官员频繁分享AI生成的图片，试图夸大损失程度。3月2日，伊朗官方媒体传播了巴林高层建筑起火的AI生成视频。一些虚假内容获得惊人的传播量：一张美军B-2轰炸机被击落的虚假图片获得超百万次浏览，三角洲部队被俘的伪造图片更是达到500万次观看。
战略对话研究所（Institute of Strategic Dialogue，ISD）研究发现，伊朗政府还利用AI推动反犹太主义宣传，在X平台上传播AI生成的争议性内容。一些虚假视频在被删除前已获得数百万次浏览。
针对AI生成内容泛滥的问题，X平台宣布将暂时取消发布未标注武装冲突AI视频的蓝色验证账号的收益资格。然而，平台未披露具体处罚数据。与此同时，Meta的监督委员会也指出该公司在处理AI生成内容方面存在不足，特别是在危机和冲突期间。
媒体监督机构NewsGuard分析师伊西斯·布拉切兹（Isis Blachez）指出，随着AI生成内容越发逼真，用户难以识别真伪，而现有的AI检测工具效果也并不理想。专家呼吁加强对AI内容的监管，以防止假新闻进一步侵蚀事实基础的信息环境。
