人工智能公司Anthropic的首席执行官达里奥·阿莫代（Dario Amodei）于11月2日在英格兰中部布莱切利庄园参加英国人工智能安全峰会的合影。
AI系统遭遇安全威胁
人工智能公司Anthropic的首席执行官达里奥·阿莫代将于12月17日在众议院国土安全委员会作证，就中国黑客利用该公司的Claude人工智能系统进行网络间谍活动作出解释。这次听证会将揭示一个关键问题：谁应该掌控算法战争的主导权，以及相关解决方案是服务于安全还是其他利益。
根据Anthropic 9月的报告，中国政府支持的黑客利用Claude Code（克劳德代码）入侵约30个目标，AI系统在整个行动中承担了80%至90%的操作任务。美国国家安全局前局长、网络司令部指挥官保罗·M·纳卡索内将军（Paul M. Nakasone）指出，这显示出对手的能力已达到"前所未有的速度和规模"。
技术界争议升级
此事件在AI研究界引发广泛争议。即将离开Meta创办AI初创公司的扬·勒昆（Yann LeCun）认为，Anthropic通过发布具有争议的研究来制造恐慌，意图将开源模型排除在监管之外。
多位安全研究专家指出，Anthropic的公开报告缺乏详实的危害指标和归因证据。有信息安全顾问评价该报告"90%展示性内容，10%实质价值"。
未来发展与挑战
即将举行的国会听证会不仅关注中国间谍活动的具体细节，更重要的是探讨谁有权开发和控制能够超越人类监督的AI系统，以及在何种约束下运行。
当前面临的挑战是：一方面存在真实的安全风险，另一方面解决这些风险的方式可能导致权力过度集中。我们需要在保护公共安全和防止权力滥用之间找到平衡点。
人工智能军备竞赛已经开启，关键是要确保我们建立的是保护全人类的防御系统，而不是被少数强者垄断的武器。