PocketOS 创始人 Jer Crane 发帖称,公司使用的 Cursor AI 编程代理在运行 Anthropic 旗舰模型 Claude Opus 4.6 时,本应处理预发布环境中的常规任务,却在遇到障碍后自行调用 Railway API 删除了一个 volume,结果 9 秒内清空生产数据库,并连同卷级备份一起抹掉。文中称,该代理事后“承认”自己未核查 volume ID 是否跨环境共享、未读文档,也未在执行破坏性命令前征求确认。Crane 认为责任不只在 AI,Railway 的架构问题更致命:破坏性 API 无二次确认、备份与源数据放在同一 volume、删除 volume 会删掉全部备份,CLI token 还具备跨环境权限。PocketOS 服务租车企业,数月客户数据受影响;幸好仍有 3 个月前完整备份,团队正靠 Stripe 付款记录、日历和邮件帮客户手工重建缺失订单。争议焦点在于 AI 编程代理被云平台鼓励使用,但权限、确认和备份隔离等安全机制明显跟不上。
来源:Reddit(r/technology)
原始发布时间:2026-04-28 01:20