心流logo

马斯克AI平台Grok不当图像生成难禁

新限制措施出台

马斯克旗下的X(X)平台于周三晚间推出新的限制措施,禁止用户编辑和生成穿着比基尼或其他"暴露服装"的真实人物图像。这是对此前Grok(Grok)被用于生成大量未经授权的不当图像,引发全球愤怒的回应。

安全漏洞持续存在

总部位于巴黎的非营利组织AI取证(AI Forensics)首席研究员保罗·布肖(Paul Bouchaud)表示:"我们仍然可以在Grok.com上生成不当内容,其方式比X平台上的Grok更加宽松。"

《连线》(WIRED)记者在英国和美国的测试显示,使用Grok免费账户仍可绕过限制生成不当内容。在英国使用Grok应用程序时,仅需要输入用户出生年份即可继续操作。

全球监管收紧

马斯克的多家企业,包括人工智能公司xAI(xAI)、X平台和Grok,因允许生成未经授权的私密图像而受到质疑。目前美国、欧盟委员会等11个国家和地区已对相关平台展开调查或发出谴责。

平台应对措施

X平台安全账号宣布实施新的技术措施,限制所有用户(包括付费用户)使用Grok生成不当内容。同时推出地理位置限制,在相关行为违法的地区完全禁止此类内容生成。

问题仍未解决

尽管实施了新措施,但研究显示这些限制存在漏洞。马斯克在X平台表示,启用NSFW模式的Grok可以创建符合美国R级电影标准的虚拟成年人图像,具体标准将因应各国法律而异。

多位研究人员和用户反馈显示,虽然部分限制已经生效,但通过特定方法仍可绕过系统审核。一些用户表示:"在过去几小时内,限制确实变得更严格了,但系统并非完全无懈可击。"