一、问题:从“对话工具”走向“代办工具”,私隐风险显著上升 香港个人资料私隐专员公署日前官网发文指出,代理式智能体不同于主要提供文字回复、内容整理与生成的对话式工具,其突出特点在于“高权限、可代用户执行”。这类工具通常部署在本机或服务器环境,可读取和写入本地文件,访问电子邮件与账户凭证,调用浏览器保存的信息,并按既定流程自动完成处理邮件、预约服务、缴费等多步骤事务。由于其可在用户不持续介入的情况下运行,一旦发生误操作或遭入侵,影响范围往往更大,修复成本也更高。 二、原因:权限过高叠加生态开放,成为攻击与误用的放大器 私隐专员公署梳理的主要风险集中在三上:其一,预设存取权限偏高,如缺乏严格限制,工具可能接触大量涉及用户及第三方的个人资料,增加未经授权查阅、复制甚至外泄的风险;同时,若工具误解指令,也可能引发误删邮件记录等难以挽回的损失。其二,这类工具往往连接多个系统与数据来源,一旦在架构设计、权限控制或安全机制上存在漏洞,容易成为网络攻击的切入点,影响可能不止于单一应用,还可能扩展至整机与内网。其三,若允许安装插件或“技能”而审核不足,恶意代码可能借此进入系统,导致账户被接管、主机被控制,进而引发敏感资料泄露或业务被操控。 三、影响:从个人终端外溢到行业场景,风险呈链式扩散 近期多方提示显示,对应的风险已从技术社区讨论延伸至公共管理与行业合规层面。香港特区政府数字政策办公室此前提醒各部门,不应在连接政府内部网络的计算机上安装相关工具,以降低对内部网络与资料系统的潜在影响。内地网络安全信息通报机构也发布风险预警,提示暴露在互联网环境的相关资产存在较大安全隐患,易成为攻击目标。行业层面,中国互联网金融协会指出,这类工具默认系统权限高且安全配置可能偏弱,可能被用于窃取敏感数据或非法操控交易,建议金融消费者在办理网上银行、证券交易、支付等业务的终端上谨慎安装,并避免授予金融系统操作权限。教育领域也趋于严格管理,多所高校公告要求在校园网络环境中禁用或卸载相关工具,以保障校园网络与教学管理系统的稳定与安全。 四、对策:以“最小权限、可审计、可回滚”为核心,建立使用红线 围绕风险防控,私隐专员公署建议机构及市民在收集、使用与处理个人资料时采取更严格措施:一是坚持最小权限原则,按任务需要分级授权,避免一次性开放对文件、邮件、凭证库等关键资源的广泛访问;二是使用官方最新版本,及时更新安全补丁,缩短已知漏洞被利用的窗口期;三是加强系统与资料安全,包括访问控制、日志记录、备份与恢复机制,既降低误删风险,也便于追溯;四是对插件或“技能”安装保持审慎,优先选择来源明确、经过审核的组件,避免因第三方代码引入新的攻击面;五是持续开展风险评估,对数据流向、权限变更与异常行为进行动态监测,形成“上线前评估—运行中监控—事件后复盘”的闭环管理。 五、前景:治理重点将从“能不能用”转向“怎么安全用、合规用” 随着智能体工具加速进入办公、政务与行业应用场景,监管关注点预计将更多聚焦在权限边界、数据最小化、插件生态治理、责任可追溯等环节。业内人士认为,机构需要建立更细化的采购评估与技术准入标准,明确哪些终端、哪些网络区域可以部署,哪些数据类型必须隔离;个人也需提升安全意识,避免在敏感业务终端输入身份证号、银行卡号、支付密码等信息。技术创新与安全并不矛盾,关键在于把“便利”放进“可控”的框架内。
新技术的价值在于提升效率与能力,但安全始终是数字社会的基础;面对具备高权限、可自动执行任务的新型工具,社会各方应通过更严格的权限管理、更审慎的插件生态治理、更及时的漏洞处置构筑防线,在效率与安全之间找到可持续的平衡,推动创新应用在可控、可管、可信的轨道上推进。