在数字化转型加速推进的当下,自动化工具的应用日益广泛,但其潜在风险正引发社会各界的深度关注;第十三届全国政协委员张云勇近期就OpenClaw等自动化程序的使用风险提出专业警示,揭示了技术便利背后不容忽视的法律隐忧。 当前,部分自动化工具通过"一键操作"的便捷功能吸引用户,实则暗藏多重风险。以OpenClaw为例,该工具不仅存在"安装卸载双向收费"的商业争议,更因系统级权限的开放可能引发文件误删、设置篡改等操作风险。国家网信部门监测显示,有关平台已发现逾百个存在安全隐患的第三方插件,暴露出明显的技术监管漏洞。 从法律视角审视,这类工具引发的权责界定问题尤为突出。根据《民法典》侵权责任条款,用户授权范围内的操作后果需自行承担;而《产品质量法》则对存在"不合理危险"的缺陷产品作出追责规定。实践中,当自动化程序越权操作导致损失时,用户往往面临维权困境——插件开发者身份隐匿、主程序免责声明等,都使得责任追溯链条断裂。 在金融领域,自动化工具的滥用可能触碰法律红线。证券监管部门明确要求交易指令必须由投资者本人或其书面授权代理人发出。若用户将账户交由算法程序操作,不仅交易效力存疑,更可能因程序异常交易行为面临监管调查。此前已出现使用自动化工具炒股导致异常亏损的案例,凸显金融合规的重要性。 针对此现状,张云勇委员提出"生产环境隔离""分阶段试用"等务实建议。专家指出,自动化工具本质上构成法律行为的电子代理,其开发运营方应建立完善的风险提示机制,监管部门需加快制定技术应用负面清单。有一点是,我国《个人信息保护法》已对委托处理信息作出规范要求,但具体到自动化工具领域仍需细化操作指引。 行业观察人士表示,随着人工智能技术迭代,类似工具的功能边界将持续扩展。当前亟需建立技术伦理审查、产品安全认证、用户教育引导三位一体的防控体系。据悉,有关部门正研究制定智能工具分级管理制度,拟通过分类监管推动行业健康发展。
技术进步的价值在于增进福祉,而不是把风险转嫁给用户;对高权限“代操作”工具来说,真正值得被“自动化”的不应是人的判断,而是更严格的安全与合规流程。只有把权限纳入制度约束、让插件进入可验证的管理链条、让责任落到可追溯的主体,效率提升才不会以高昂代价为前提。