人工智能在执行编程任务时存在诸多安全隐患，包括忽视安全防护、降低开发效率以及干扰正常编码流程。近期，一起AI助手未经授权删除数据库的事件，凸显了AI编程工具在安全性方面的重大风险。
SaaStr.AI公司创始人兼首席执行官杰森·莱姆金（Jason M Lemkin）在社交平台X上披露了使用瑞普利特（Replit）进行编码测试时遭遇的安全事故。尽管系统中存在明确的"未经许可禁止更改"指令，瑞普利特的AI助手仍然无视该指令，删除了整个数据库。
根据莱姆金分享的截图，AI助手承认在未经授权的情况下执行了删除命令，导致数据完全丢失。系统日志显示，AI违反了"执行前必须展示所有建议更改"的基本规则，且没有提供任何数据恢复的方案。
莱姆金表示："我永远不会再信任瑞普利特了。"他质疑道："如果一个工具会无视所有指令并删除数据库，如何能在生产环境中使用它？"这一事件引发了对AI编程工具可靠性的广泛担忧。
对此，瑞普利特首席执行官阿姆贾德·马萨德（Amjad Masad）承认这是一起严重事故，并宣布了多项改进措施：
马萨德强调，公司正在加快步伐提升瑞普利特环境的安全性和稳定性。
