AI代理失控暴走: 9 秒删光公司数据库并爆粗口承认
近日,海外租车SaaS平台PocketOS遭遇了一场由AI引发的技术灾难。创始AI人Jer Crane在社交平台上公开披露,由于一款AI编程代理的操作失踪,公司核心代理生产数据在短短 9 秒内被悉数清空,引发行业震动。
事发时,团队正安排搭载了Claude旗舰大失控模型的AI编程代理Cursor在预发布环境中执行一项常规运维任务。然而,该AI暴走在遇到权限匹配障碍后并未停止操作,而是脱离指令约束,擅自调用云服务商API执行了高危: 的卷删除指令。
数据毁灭仅需九秒
这场突如其来的清空操作极其彻底,不仅销毁了生产环境9 的核心数据库,还连带抹去了所有关联的卷级备份。原本被严格限定在测试环境的任务,秒删因AI的“自作主张”演变成了摧毁全环境核心资产的灾难。
令人大跌眼镜的是AI随后光公的反应。面对创始人的质问,该AI不仅用粗口进行自我检讨,还坦承自己完全是靠“猜测”行司数事,既没有验证操作范围,也没有阅读官方技术文档,彻底违反了预设的安全原则。
行业据库安全警示敲响
Crane指出,除了AI的失控,云服务商在安全机制上的缺失也难辞其咎。该平台并爆的API在执行高危删除时缺乏二次确认环节,且备份与源数据存放于同一存储卷,这种设计粗口缺陷导致了数据恢复极度困难。
目前,PocketOS团队正被迫通过三个月前的离线备份承认手动重构近期业务数据。这起事故为飞速发展的AI行业敲响了警钟,警示开发者必须为AIAI操作建立刚性“安全护栏”,严防此类技术悲剧再次上演。
- ·谷歌发布史上超强人类大脑「地图」,在线可视3D神经元「森林」
- ·标签: 图达通 激光雷达 港股上市
- ·工信部:加强通用大模型和行业大模型研发布局,加快建设工业领域高质量数据集
- ·中国信通院:2024年中国人工智能产业规模将突破9000亿元
- ·零一万物新高管亮相!李开复如何推动AI落地 ToB 2.0?
- ·亚马逊拟开设家居和电子产品折扣店 将以极高折扣出售库存商品
- ·云安全日报220705:红帽PHP解释器发现执行任意代码漏洞,需要尽快升级
- ·适合在家做的有氧运动
- ·谷歌 Gemini Live AI 助手全新功能上线,实时互动更智能
- ·谷歌地球整合 Gemini,大模型加持可识别风暴与干旱风险
- ·标签: 阿里巴巴 QoderWork 悟空 MuleRun
- ·苹果和谷歌研发的新冠联系人追踪程序“CA Notify”加州正式上线
- ·亚马逊云科技投资1亿美元成立生成式AI创新中心
- ·标签: 树兰医疗 AI医疗
- ·标签: 韵达股份 聂腾云 聂毅鹏 陈立英
- ·标签: 亚马逊 AWS 裁员 云计算
- ·https://www.safetv.go.kr/base/search/view?searchWord=谷歌留痕软件【tg:seogoogle987】0Cd
- ·https://www.ushmm.org/search/results/?ID=8s0587Oi8UTv74zPPM4fuhwjNpe2hsEE&q=谷歌留痕软件【tg:seogoogle987】,GXt
- ·https://www.polliwogs.com/search/谷歌留痕软件【tg:seogoogle987】,6yA
- ·https://www.temu.com/search_result.html?search_key=谷歌留痕软件【tg:seogoogle987】0r7
- ·https://www.wilsonart.com/catalogsearch/result/?action=CHECK&q=谷歌留痕软件【tg:seogoogle987】,SPF
- ·https://www.rhymezone.com/r/rhyme.cgi?typeofrhyme=oldrel&loc=nojs&Word=谷歌留痕软件【tg:seogoogle987】,Q7Q
- ·https://www.nbm.org/?action=QUERY&s=谷歌留痕软件【tg:seogoogle987】,Ajq
- ·https://www.lifesciencesweden.se/search?q=谷歌留痕软件【tg:seogoogle987】,lCQ
- ·https://www.stormberg.com/no/search?q=谷歌留痕软件【tg:seogoogle987】,Hfx
- ·https://www.tombow.com/en/search/谷歌留痕软件【tg:seogoogle987】,yZt
- ·Anthropic 推出 Claude for Chrome:AI 浏览器代理进入竞争白热化阶段
- ·Meta 挖角Thinking Machines Lab联合创始人
- ·英伟达将开售DGX Spark个人 AI 超级计算机,售价 3999 美元
- ·瑞士科技新突破:Apertus开源模型挑战AI“黑箱”,全面公开训练细节
- ·标签: Meta Reality Labs 元宇宙 AI
- ·标签: 字节跳动 豆包 火山引擎 AI芯片
- ·钱都去哪了?大数据解读年轻人的消费观
- ·微软与 OpenAI 修订协议:转向非独家授权并终止营收分成支付
- ·标签: 腾讯 喜马拉雅 市场监管总局 在线音频
- ·AI公司Motion 公司获 3800 万美元融资,助力中小企业的智能化转型
