问题——热度之下的“尺度”考验 近来,“养龙虾”成为社交平台高频词;“龙虾”并非餐桌食材,而是指开源智能体OpenClaw在终端侧的应用现象:用户将其视作可协助处理任务的“数字助手”,对应的体验活动与服务交易随之升温。两会期间——有代表委员指出——技术“破圈”是创新活力的体现,但更值得关注的是高权限智能体进入公众场景后,安全边界、责任归属、合规要求等问题更加突出。若缺少约束与校验机制,智能体在执行指令、调用插件、访问数据时可能出现偏差,带来不可逆的系统与数据风险。 原因——从“能对话”到“能执行”的技术跃迁 OpenClaw走红,核心在于智能体能力从信息生成延伸到任务执行:不仅回答问题,还能在一定授权下调用工具、联动应用、自动完成流程。这种“可执行”能力显著降低使用门槛,提升效率想象空间,因而吸引开发者、企业用户和普通消费者集中涌入。另外,开源生态带来的快速扩散与插件化扩展,使功能迭代更快、场景渗透更深,也使风险传播更广——一旦权限配置不当、插件来源不明或缺少审计留痕,问题可能在短时间内放大。 影响——既是新动能窗口,也是安全治理压力测试 从积极面看,高权限智能体有望在办公协同、内容生产、软件测试、客服运维、政务服务等领域提升效率,推动数字化转型向更细颗粒度的流程深入,形成新质生产力的增长点。对企业而言,智能体可优化成本结构、提升响应速度,并催生工具链、插件市场、适配服务等新业态。 但风险同样不容低估:其一,误操作风险。若在系统层面拥有较深权限,出现错误判断或执行偏差,可能误删重要文件、篡改配置、触发连锁故障。其二,隐私与数据安全风险。插件生态若缺少审核与隔离,可能成为数据外流通道,甚至被恶意利用。其三,责任链条不清。开发者、平台、插件提供者、部署方、最终用户在同一事件中的责任如何认定,现有规则在新场景面前存在衔接空白。其四,公众“盲目尝鲜”带来的次生风险。部分用户缺乏安全配置意识,将智能体直接接入工作账号或重要数据环境,增加事故概率。 对策——以“安全内置+分级授权+制度供给”构建底座 一是推动“安全内置”,把防护写进代码与产品流程。研发与运营主体应建立默认安全策略,强化权限最小化、关键操作二次确认、敏感数据脱敏与加密、日志审计与可追溯机制;对高风险操作设置“熔断”和回滚能力,降低不可逆损失。 二是完善分级授权与隔离机制。倡导在沙箱或隔离环境中部署测试,区分个人娱乐、一般办公与生产关键系统等不同等级场景,建立相匹配的权限清单、访问控制与应急预案;对插件接入实行来源标识、行为监测和动态风控。 三是加强科普提示与行业自律。有关部门、行业组织可发布面向公众的使用指引,明确不明插件风险、数据备份要点、人工复核边界等基础规范;平台与服务商应建立更透明的风险告知与售后处置机制,防止“只讲效率不讲安全”。 四是加快规则衔接与治理供给。围绕数据主权、个人信息保护、算法与软件安全、产品责任等领域,深入明确智能体代理行为的法律边界和责任认定逻辑,推动形成“谁开发谁尽责、谁部署谁管理、谁使用谁守规”的闭环,避免治理滞后于技术扩散。 前景——从“爆火”走向“可用、可信、可控” 代表委员的关注表明,社会对新技术的态度正在从“好奇尝鲜”转向“理性应用”。未来一段时期,高权限智能体仍将加速进入更多终端与行业场景,关键不在于热度能持续多久,而在于能否建立可验证的安全标准、可审计的运行机制和可追责的制度体系。只有把治理能力与产业创新同步推进,技术红利才能稳定转化为高质量发展的增量。
技术创新需要与制度创新并重;在拥抱技术进步的同时,必须筑牢安全底线。正如代表委员所强调的,只有在法治框架下推进技术发展,才能让创新成果持续赋能现代化建设。