心流logo

英国小学或因AI隐患关闭社交账号

安全隐患引发担忧

桑德威尔悦树小学(Yew Tree Primary School)正在考虑关闭其X平台账号,原因是担心该平台的Grok人工智能工具可能被用于制作真实人物(包括儿童)的不当图像。据报告显示,Grok被用于通过数字方式移除照片中的衣物或将人物置于不当姿势。目前,英国通信管理局(Ofcom)正在就网络安全问题对该工具展开调查。

社交平台使用历程

该校于2019年在经历了一段艰难的英国教育标准局(Ofsted)评估期后,作为重建工作的一部分开设了X平台(原Twitter)账号。校长杰米·巴里(Jamie Barry)表示:"当我担任校长时,我们希望让学校融入更广泛的社区,分享这里发生的所有精彩工作。基于我多年使用该平台的经验,我们决定开设账号来展示学校和分享学习情况。"

平台价值与安全权衡

巴里指出,该账号已成为与家长、监护人和潜在家庭沟通的重要工具,不仅有助于家长了解学校动态,还能在教育标准局访校时展现学校的价值观和学习情况。然而,对Grok的担忧已超出技术本身,而是集中在X平台对这些指控的回应上。

"如果一个组织存在安全漏洞,你会期待看到一个强有力和高效的回应,"巴里说,"埃隆·马斯克(Elon Musk)暗示这是关于英国审查言论自由的说法令人极为担忧。我们希望使用这个平台,但不能以牺牲安全为代价。"

最终决策

学校正在就账号去留进行详细讨论。作为一个成熟的沟通平台,家长们已习惯在此获取学校更新信息。然而,随着多个声誉良好的组织暂停或离开X平台,学校面临着真正的困境。巴里表示将很快做出决定,"在这个阶段,我们倾向于离开——至少暂时暂停使用。"