问题——医疗大模型加速进入临床与管理场景，安全合规成为“先决条件”；随着医疗机构对智能问诊、辅助决策、病历质控、科研分析等需求增长，大模型涉及的应用从试点走向多点开花。同时，医疗数据敏感性强、业务链条长、参与主体多，一旦发生数据泄露、越权访问或模型“幻觉”导致误导性建议，不仅带来合规风险，还可能影响诊疗安全与公众信任。如何提升效率与守住底线之间取得平衡，成为医疗数字化必须回答的关键命题。 原因——医疗领域的高风险属性叠加技术演进，放大了治理复杂度。一上，医疗数据包含个人身份信息、病史用药、检验影像等高度敏感内容，跨系统流转频繁，授权与审计要求更严。另一方面，大模型能力强但可解释性、可控性仍是短板，尤其“智能体”参与任务执行时，权限边界、工具调用、外部知识检索等环节更易出现链路型风险。例如，基于检索增强生成（RAG）的应用若缺乏严格的检索过滤与访问控制，可能将不该被调用的数据带入推理过程；智能体若缺少“数字身份”与分级权限管理，可能出现越权查询、误操作系统接口等问题。再加上医疗机构信息系统历史包袱较重、供应链较长，安全治理需要从单点防护走向体系化建设。 影响——安全治理水平将直接决定医疗大模型能否规模化、可持续应用。对医疗机构而言，安全合规不仅是风险控制，更关系到新技术能否进入核心业务流程。对行业而言，建立统一、可复制的治理范式，有助于降低试错成本，避免“各自为战”造成的资源浪费。对城市治理而言，医疗数据安全与算法可信度既是公共安全议题，也是数字政府与智慧城市建设的基础能力之一。与会人士普遍认为，医疗领域的“安全”不仅是工程问题，更是伦理责任与社会信任的基石，必须在制度、技术、管理与人才等层面形成闭环。 对策——以系统治理思维推进“技术—规范”双轮驱动与跨域协同。研讨活动上，多位专家从不同维度提出路径建议：在技术层面，应明确医疗大模型应用边界，围绕可信算法设计、模型评测验证、对抗与鲁棒性防护等补齐短板，通过可追溯、可审计的工程化手段把风险关口前移；在系统层面，应强化安全架构与合规落地，推动数据分级分类、最小必要访问、全链路审计、脱敏与匿名化处理等措施与业务流程深度耦合，避免“上线后再补漏洞”；在应用层面，智能体进入临床辅助决策等高敏场景，更需建立清晰的授权机制与责任边界，完善“数字身份”、权限管理和工具调用白名单，确保可控可管可回溯。与此同时，推动跨部门、跨机构、跨企业的协同治理同样关键，通过共建标准、共享经验、联合测评、联动应急等方式，形成更具韧性的行业生态。 前景——在安全可控前提下，医疗大模型将从“可用”走向“好用、敢用、放心用”。深圳近年来持续推动卫生健康领域数字化转型，医疗大模型的落地具有场景丰富、数据类型复杂、应用链条完整等特点，既是优势也是挑战。展望下一步，随着安全治理框架逐步完善、合规实践不断沉淀，医疗大模型有望在临床辅助、公共卫生监测、医院精细化管理各上释放更大价值。但业内也提醒，技术迭代速度快，治理要同步升级：既要强化事前评估、事中监测与事后追责的闭环机制，也要坚持“以人为中心”的价值导向，把保障患者权益、维护诊疗安全放在首位，避免技术冲动带来的系统性风险。
医疗大模型的发展不仅考验技术能力，更依赖治理水平。唯有以安全合规为基础，通过规则约束与技术保障联合推进，才能在保护隐私与伦理的前提下，让医疗智能化真正造福民生。