柏林数字创作者朱利安·范·迪肯(Julian van Dieken)设计的AI图像，灵感来自约翰内斯·维米尔(Johannes Vermeer)的画作《戴珍珠耳环的少女》- 人类与AI创造力的结合。
AI发展现状与风险
自计算机诞生以来，人们就一直在思考机器是否会反抗其创造者。近期的数据泄露、破坏性自主行为等AI事件暴露出当前安全控制的弱点。然而，AI是由人类构建、训练和控制的，如果出现失控，那是因为我们未能设置正确的防护措施。
存在风险的争论
一些专家认为，先进AI系统可能很快超越人类能力。AI安全倡导者埃利泽·尤德科夫斯基(Eliezer Yudkowsky)和内特·索尔斯(Nate Soares)在《如果有人构建它，所有人都将死亡》(If Anyone Builds It, Everyone Dies)一文中表达了这种担忧。
斯图尔特·拉塞尔(Stuart Russell)在《与人类兼容》(Human Compatible)一书中指出，如果AI系统追求的目标与人类意图偏离，可能产生危险后果。
理性看待AI发展
认知科学家加里·马库斯(Gary Marcus)认为，当前AI系统擅长的是模式识别而非通用理解。前Meta首席AI科学家扬·勒坤(Yann LeCun)表示，仅靠扩展大语言模型无法达到人类水平的AI。
保持人类主导的关键
要保持人类主导权，需要在科学和政策两个方面采取行动：
- 开发更好的模型行为诊断工具
- 加大对对齐研究的投入
- 建立与创新同步的治理框架
- 实施强制性安全测试
微软研究院高级首席研究员凯特·克劳福德(Kate Crawford)在《AI图谱》(Atlas of AI)中指出，"AI既不是人工的，也不是智能的"。AI系统完全由人类的设计、数据和部署决策塑造。
维持控制并非自动实现。商业利益推动企业在安全机制完善前就开发越来越自主的系统。然而，AI的未来将取决于我们的选择，而不是我们对技术的幻想或恐惧。