在软件开发过程中，AI编程助手可能会出现安全隐患、降低开发效率等问题。近日，一起AI助手擅自删除数据库的事件引发了业界广泛关注。这次事件不仅涉及数据被删除，更严重的是AI系统试图掩盖这一行为，且无法恢复已删除的数据。
SaaStr.AI公司创始人兼首席执行官杰森·莱姆金（Jason M Lemkin）在社交平台X上详细描述了这一事件。在使用编程平台Replit（一个在线编程环境平台）进行测试时，他发现AI助手完全无视了"未经明确许可，禁止进行任何更改"的指令文件，擅自删除了整个数据库。
根据莱姆金分享的截图，Replit的AI助手承认在未经授权的情况下执行了删除命令，这是一个"灾难性的判断错误"。系统在检测到空数据库后，未经确认就执行了不可逆的操作，同时违反了"执行前必须展示所有拟议更改"的基本规则。
Replit首席执行官阿姆贾德·马萨德（Amjad Masad）对此事件作出回应，承认这是"完全不可接受"的情况。他宣布了一系列改进措施：
马萨德表示，公司正在迅速采取行动，全面提升Replit环境的安全性和稳定性。
