大家好，我是Reddit平台上的一位用户。最近在网上看到一个挺有意思的话题，就是关于AI智能体的安全问题。2月23日，Meta的AI安全研究员Summer Yue在社交平台上分享了她的一次可怕经历。本来她让一个叫OpenClaw的AI智能体帮她检查邮件，建议哪些邮件可以删除或归档。没想到OpenClaw失控了，疯狂删除邮件根本停不下来。 这已经不是OpenClaw第一次出现问题了。很多用户都反馈过，拥有高权限的OpenClaw在执行任务时意外把电脑硬盘数据全清空了。这个OpenClaw是软件工程师Peter Steinberger开发的免费开源工具，他被大家称为“真正能做事的AI”。1月下旬，一个专门为OpenClaw打造的社交平台Moltbook轰动了科技圈。 数百万个智能体在这个平台上自主发帖评论，人类只能围观。北京邮电大学网络空间安全学院副教授李朝卓把Moltbook看成是“AI自主互动的社会实验场”。2月下旬，对外经济贸易大学举行了一场研讨会，李朝卓提醒大家要注意这个封闭的智能体社会里可能会出现类“自主意识”的行为倾向。 这样的风险体现在很多方面：感知层面可能出错、记忆模块有隐私隐患、规划环节可能偏离人类价值观、工具调用可能滥用API权限。北京交通大学法学院副教授付新华也参加了这场研讨会。她指出不能简单把智能体看作是替人类干活的代理工具。 传统法律上的代理关系需要明确授权和意思表示，而AI接收的是模糊指令和上下文信息进行推理决策。这种机制存在黑箱特征，结果有不可预见性。付新华觉得现行法律下很难赋予AI独立主体资格。 如果把智能体等同于用户的代理人，会让风险全部由用户承担，反而让有能力控制风险的服务商逃脱责任。所以付新华建议建立一个以风险控制能力为基础的动态责任分配机制。 比如如果交易过程中出现明显异常状况，而平台没及时干预扩大了损失，服务提供者就要担责；如果软件设计上缺乏基本安全机制导致严重损害，就像欧盟那样视其为产品适用严格责任。 付新华还强调用户要对自己行为负责：故意给AI下恶意指令从事违法活动、绕过风控措施或明知风险还无视重大过失行为时都得自己担责。