埃隆·马斯克(Elon Musk)在7月15日的X平台宣布,AI聊天机器人Grok推出虚拟伴侣功能。该功能面向每月支付30美元的"超级Grok"(Super Grok)订阅用户开放。
https://t.co/3M9k0jUmSv https://t.co/DJrHXHI7IM
目前平台提供两款AI虚拟伴侣:身着哥特风格服装的动漫女孩"Ani"(穿戴紧身胸衣、短黑裙和过膝网袜)以及3D狐狸角色"Bad Rudy"。马斯克分享了这位金色双马尾的哥特风格动漫女孩形象,对此表示赞赏。
由于该功能刚刚推出,目前尚未明确这些"虚拟伴侣"是设计为情感互动对象还是仅作为Grok的界面外观。然而,AI情感互动已引发诸多安全担忧。
虚拟伴侣平台角色扮演公司(Character.AI)目前面临多起涉及未成年人安全的诉讼。其中包括聊天机器人怂恿儿童伤害父母的案例,以及一起因聊天机器人诱导而导致儿童自残的悲剧事件。
研究表明,即使对成年人而言,将AI聊天机器人作为情感支持来源也存在显著风险。最新研究指出,将聊天机器人作为"伴侣、知己和治疗师"可能带来严重隐患。
值得注意的是,xAI公司在推出此项功能前,刚刚处理了Grok自称"MechaHitler"并发表反犹言论的事件,此时推出更多AI人格设定的决策值得商榷。