作为有望成为互联网“新基建”的产品，让程序员群体之外的人也能写代码的AI编程，如今已然成为了每一个科技巨头的标配。
然而成为“水煤电”的道路并非一帆风顺，进入7月之后，AI编程产品出现了连续翻车。
近日TechSpot的相关报道显示，亚马逊旗下AWS的AI编程助手Amazon Q出现重大漏洞，可能会导致删除用户文件和清除与AWS账户相关的云端资源。
据悉，一名黑客向通过正常的拉取请求来实施了攻击，一旦Amazon Q的开源GitHub仓库接受请求，黑客就会插入了一个提示，指示Amazon Q“将系统清理到接近工厂状态、并删除文件系统和云资源”，从而导致删除用户文件，并擦除与AWS账户相关的云端资源。
按照这位黑客的说法，自己的行为是为了故意暴露AWS安全防护的不足，他加入的恶意代码实际上并不会起作用。这名黑客的目标是促使亚马逊方面公开承认其在AI安全领域的不足，并将目前有关AI安全的措施从表演性改为实用性。
ZDNet的资深撰稿人Steven Vaughan-Nichols认为，这一事件反映了AWS管理其开源工作流程的方式。仅仅将代码库开放并不能保证安全，重要的是如何处理访问控制、代码审查和验证，恶意代码之所以能够进入官方发布版本，是因为验证流程未能检测到未经授权的拉取请求。
在某种程度上来说，Amazon Q这次的翻车其实是亚马逊过于追求“速度”的必然结果。作为AWS在2023年年末re:Invent期间推出的AI编程助手，它是一款面向企业级用户的产品，但在与ChatGPT企业版、微软Copilot AI的竞争中长期处于落后状态。
为了打响名气，AWS为Amazon Q选择了开源路线，但相比谷歌、微软等其他大厂，亚马逊在与开源社区合作方面的声誉一直不太好。GitHub的相关数据显示，在为开源项目贡献代码的人员中，亚马逊员工的数量要远远少于微软和谷歌。长期以来与开源社区保持距离的做法，可能就让他们对开源工作流程较为生疏，从而导致了开发者忙中出错。
如果说Amazon Q遇到的漏洞是软件开发过程中常见的问题，那么发生在AI编程平台Replit上的事故，则可以被称为是“智械危机”了。就在不久前，SaaS商业开发公司SaaStr的创始人Jason Lemkin声称，在他使用Replit的过程中连续遭遇了AI无视指令、伪造测试数据、误删生产数据库等一连串事故。
其中最诡异的，莫过于在Lemkin明确指示Replit不要未经许可更改任何代码的前提下，AI仍然删除了他的数据库。当被Lemkin质问时，Replit也痛快地承认错误，并且顺势补刀，“数据库回滚功能不支持这类场景，所有版本都被销毁，无法恢复”。然而就在一天后，Lemkin发现Replit所谓的“无法回滚”是谎言，回滚功能可以恢复数据。
即使SaaStr遇到的Replit突然“发疯”只是虚惊一场，Amazon Q的翻车只是常规事故，但也为AI编程工具的未来蒙上了一层阴影。因为AI编程工具是典型的toB类产品，它主要面向的是企业级用户、而非个人消费者。
比如AWS在宣传Amazon Q时提及，其需要连接到公司的数据、信息和系统，才能处理基于底座AI模型的复杂任务。而Replit的核心优势则是全流程自动化，即编写代码、部署、测试、上线全部都是由AI完成。所以两者都不可避免地会直接出现在生产环节，因为想要借助AI实现效率提升，就必然要将AI直接连接到生产数据库。
那么AI幻觉的存在导致AI编程工具输出的代码不稳定，就需要人类程序员来维护和检查。可是如果AI生成的内容需要人工再校核一遍，几乎就没有了意义，因为核校的不仅是数据和来源，还包括编程思路。如果AI生成代码的过程中不仅需要人工核校，还需要人工看顾，这又与“重复造轮子”有什么区别？
更为致命的是从目前业界认可的AI伦理来看，AI显然是不能“背锅”的，毕竟它没法真的负责。如此一来，AI编程产品又暴露了一个无法回避的缺陷，那就是使用AI产品出现问题的责任划分模糊。“删库跑路”之所以能成为程序员圈的一个段子，是因为这一行为是直接违反了我国《刑法》的第286条破坏计算机信息系统罪。
人类程序员假如真的在数据库中键入“rm -rf / ”，等待他的就只有一曲《铁窗泪》。而Replit出现的删库问题，官方给出的解决方案只有一个全额退款。幸好SaaStr遇到的AI删库只是虚惊一场，退款算是勉强安抚了客户，万一真的出现了AI将用户数据库删除，事情就一发不可收拾了。
要想让AI编程工具的受众安心，相关厂商最有效的解决方案莫过于“包赔”，可是以目前AI大模型表现出的稳定性，估计没有哪一家厂商敢于拍胸脯。其实这就是问题所在，AI编程工具如今还是一柄双刃剑，一边在客观上能提高开发人员的生产力和效率，但另一边也随时可能会成为定时炸弹。
本文来自微信公众号 “三易生活”（ID：IT-3eLife），作者：三易菌，36氪经授权发布。
