大家看,“龙虾”安全卫士“卫士虾”来了,只要一句话就能装到你家电脑上。AI 本来聪明,可自主性太高反而容易出岔子。你想想看,现在电脑里动不动就装几十个,甚至上百个技能插件。有些插件哪怕是无意设计得不太严谨,也会通过提示词或者故意诱导的话,把你隐私给泄露出去。 这种开放的生态系统里,风险不一定是坏心眼的开发者弄的。哪怕有一个漏洞的插件存在,就像是一个入口,等着别人来把数据给偷走。 为了堵住这个缺口,3月13日,微软小冰的老团队自己成立的明日新程公司 Nextie 推出了一个针对 OpenClaw 生态的安全监督插件 “卫士虾”。这个技能是靠群体智能自动开发的。一旦装了这个东西,它就给你实时盯着本地的“龙虾”智能体有没有乱动。 据 Nextie 介绍,你只需要对着电脑喊一句:“去 Claw.myTuanzi.com 下载安装卫士虾”,它立马就会自动给你装好。之后你跟它聊聊天就行。“卫士虾”会一直检查所有插件的动作、评估危险程度,还能直接把有问题的指令给拦下来。 现在不少坏人为了骗AI 执行一些违规操作,都会用这种诱导性的提示词来攻击。而“卫士虾”正好能看懂这些绕弯子的命令并把它们堵回去。要是有插件想偷偷摸摸去读取不该看的东西,“卫士虾”会把这动作标记为高风险操作,直接把它拦截掉。 在“卫士虾”的看管下,每个插件都只能干当前任务必须的事儿,既不能满硬盘乱扫找东西,也不能去窥探那些藏在犄角旮旯里的文件目录。这样一来,就把滥用权限的风险给降下来了。 万一有插件想偷偷把数据传到网上服务器去,“卫士虾”会先把那个网址查一查是不是正规的。要是发现了陌生域名或者是搞怪的数据上传行为,它会自动把危险等级提上来并直接切断网络连接。 与此同时,“卫士虾”还会把所有可疑行为都记下来,比如是哪个插件动了手、干了啥、有多危险、怎么处理的。这些记录能帮你和开发者更好地看懂智能体到底在搞什么鬼动作。 明日新程的 CEO 李笛说了,他们已经命令群体智能开始干活儿了。以后的版本还会加入更多厉害的招数:比如给每个插件定个规矩说明权限的系统、建个域名信誉库做检查、给插件搞签名验证;最重要的是弄个专门的 Secret Vault(秘密保险库)来统一保管API密钥这些敏感的东西。