马来西亚和印尼已封禁埃隆·马斯克(Elon Musk)旗下人工智能聊天机器人Grok(Grok)，原因是该工具可以生成色情深度伪造内容。这两个东南亚国家成为全球首个禁止使用该AI工具的国家。
Grok是马斯克旗下X平台(X platform)上的AI聊天机器人工具，具有生成图像功能。近几周来，该工具被滥用来编辑真实人物的图片，使其呈现暴露的装扮。两国政府表示，Grok可能被用于制作涉及女性和儿童的色情及非自愿图像。
马来西亚通信与多媒体委员会周日表示，他们今年早些时候已向X发出通知，要求采取更严格的措施，因为发现Grok被"反复滥用"来生成有害内容。监管机构指出，X在回应中未能解决其平台设计固有的风险问题，主要只关注用户举报程序。该机构将继续封禁Grok，直至实施有效保护措施，并敦促公众举报有害的在线内容。
印尼通信和数字事务部长穆提亚·哈菲德(Meutya Hafid)在Instagram上发文表示，使用Grok生成色情内容违反了人权、尊严和网络安全。该部门已要求X平台就Grok的使用情况作出说明。近年来，印尼当局已对其他在线色情内容来源进行打击，OnlyFans和Pornhub等平台已在该国被禁止。
英国媒体监管机构通信管理局(Ofcom)预计将很快就Grok问题作出决定。全球领导人纷纷谴责使用Grok生成色情图像的行为，英国首相基尔·斯塔默(Keir Starmer)称这种行为"可耻"且"令人作呕"。
