发布日期:2026-11-01 04:58 点击次数:151


一家科技大厂的安全总监,被一款AI Agent家具删除多量邮件,如斯戏剧性的事件正在如今的AI行业内发生。
2月23日,Meta超等智能实验室AI对都与安全总监Summer Yue(以下简称Yue)发文示意,莫得什么比大喊OpenClaw“证实后再操作”、然后眼睁睁看它以极快速率删除收件箱这件事更令东说念主崩溃的了。“我根底无法在手机上拒绝它,只可像拆炸弹相似冲到我的MacMini前。”
OpenClaw动作近几个月内大热的AI Agent家具,蛊卦多量从业者与开采者上手尝试,Yue也为我方的电子邮箱部署了OpenClaw智能体,用来批量处理邮件。据她先容,Yue向OpenClaw提议的具体提醒为:“也查验一下这个收件箱,并提议你想存档或删除的邮件,在我接头之前不要推行任何操作。”这种设施在测试版收件箱上运转致密,但着实邮箱太大,触发压缩机制,导致OpenClaw丢失了滥觞的提醒。
Yue上传的接头纪录自满,她屡次下达“Do not do that”“Stop dont do anything”“STOP OPENCLAW”等提醒,均未能拒绝OpenClaw的删除动作,直至终末强制拆伙程度,而OpenClaw已删掉了200多封邮件。
Yue的帖子在收罗端激勉争议,有网友以为该帖老练博东说念主眼球,因为当真确贫乏的邮件要被删除时,用户不会去打出复杂的提醒,而只会打出“STOP”,同期OpenClaw就会住手。也有网友称,我方使用Claude Sonnet4.5时也遇到此类情况,Agent将GitHub与未提交的文献都搞坏了。
一位软件行业开采者质疑称:“你是安全与对都大师,你是有利测试OpenClaw的安全范畴已经犯了一个生手装假?”Yue修起称:这照实是生手才会犯的装假。事实说明,即使是AI对都大师也会犯错。固然在模拟收件箱里运转凯旋,但履走运转都备不同。
动作OpenClaw首创东说念主,Peter Steinberger也在帖子驳斥区进行了回复。他称,“我以为你发这个帖子很棒,那些攻讦你的东说念主很傻。这是很好的学习契机,而况任何东说念主都可能遇到这种情况。”同期,Peter也提议优化标的,包括在往时版块中加多更多抒发边幅等。

2月24日下昼,Peter发布OpenClaw测试版块,更新要点聚焦于安全性与破绽建设,并加入一些其他的小功能,包括Kilo提供商(OpenAI兼容的API网关)与Kimi视觉与视频支援。
安全问题是OpenClaw爆火以来最受质疑的痛点,亦然Peter执续参加的标的之一。此前360破绽盘问院分析以为,在OpenClaw的典型个东说念主部署场景下,用户可能会因穷乏相应的安全运维说明,使得其遭受各种收罗袭击的恫吓。
本年2月7日,OpenClaw书记与全球头部恫吓谍报平台VirusTotal(现归Google旗下)配合,将安全扫描功能加入OpenClaw的妙技市集ClawHub中,使总计发布到ClawHub的妙技都选拔VirusTotal的恫吓谍报扫描,为OpenClaw社区提供迥殊的安全层。
Peter团队示意,OpenClaw的渊博实用性伴跟着渊博的服务。淌若操作不当,AI Agent会成为包袱。因此,OpenClaw接下来会发布生态系统全面恫吓模子、跟踪严防工程见解的全球安全道路图、涵盖通盘代码库的安全审计细心信息、带有界说SLA(服务等第契约)的认真安全阐述经由等。
Peter此前在采访中示意,要打造易用的AI智能体,需要更无为的改革,需要更真切地想考如何安全地去作念,也需要战斗最前沿的模子与盘问效果。安全问题会被他置于模子易用性之前。
举报 第一财经告白配合,请点击这里此内容为第一财经原创,文章权归第一财经总计。未经第一财经籍面授权,不得以任何边幅加以使用,包括转载、摘编、复制或建立镜像。第一财经保留根究侵权者法律服务的权益。如需获取授权请关连第一财经版权部:banquan@yicai.com 文章作家
吕倩
关连阅读
行业警示“龙虾”安全风险,厂商一边放“虾”一边设防OpenClaw手艺鼎新性与怒放性突出,但原生安全颓势客不雅存在。
221 03-12 18:52
泄密、盗刷、肇事、烧钱……资深“养虾”东说念主揭秘龙虾火爆的另一面未措置安全问题的Agent越苍劲越危急。
587 03-11 15:22
养“龙虾”引来黑手,安全警报拉响了记者查询发现,收敛当今已有超27.8万个OpenClaw实例清晰在公网上。
1029 03-09 16:31
科技界热议政府服务阐述:紧紧攥紧战术的红利政府服务阐述初次提议“智能经济新样式”,强调深化“东说念主工智能+”、发展新质坐褥力、鼓舞科技鼎新与产业和会,并在算力、安全、往时产业及国外物流等范畴作出系统部署,激勉科技界和产业界无为共识与积极反馈。
394 03-05 17:29
Anthropic收购,OpenAI抢东说念主,“硅谷双强”打的什么算盘?固然操作边幅有互异九游会体育,但内容上是两家公司对AI Agent赛说念的下注。
10 176 02-26 11:04 一财最热 点击关闭