问题——技术加速“下沉”,治理与应用同步面临新考验。
当前,人工智能正从实验室走向产业链、供应链与公共服务场景,深度嵌入制造、交通、金融、医疗、教育等领域,成为推动效率变革与模式创新的重要力量。
与此同时,数据安全、隐私保护、算法偏见、深度合成滥用、责任边界不清等风险也随之显性化。
如何既抢抓新一轮科技革命和产业变革机遇,又守牢安全底线、权利边界与伦理底线,成为社会普遍关注的焦点。
原因——“广应用、强外溢”的技术特性决定了风险与红利并存。
人工智能具有明显的通用技术属性:一旦在关键环节实现突破,就会通过“技术—产业—制度”链条向外扩散,产生强溢出与强带动效应。
其训练与应用又高度依赖数据、算力与模型迭代,带来跨部门、跨行业、跨地域的协同需求。
部分场景中“先上车后补票”的冲动,叠加个别主体合规意识不足,容易造成治理滞后、责任悬空。
加之技术门槛与资源分布不均,也可能导致数字鸿沟扩大,影响公平可及。
影响——用得好是新动能,用不好可能放大结构性风险。
从积极面看,推动重点行业领域人工智能商业化、规模化应用,有助于加快形成新质生产力:在制造端促进柔性生产与质量提升,在服务端提升公共服务效率与精准性,在科研端加速知识发现与工程验证。
从风险面看,若治理体系与应用扩张不匹配,可能引发三类问题:一是对个人信息与数据资产的侵害风险上升;二是算法黑箱与模型幻觉导致决策失真、责任难界定;三是深度合成内容冲击社会信任与舆论秩序,增加治理成本。
综合来看,人工智能的竞争力最终不仅体现在“能不能用”,更体现在“用得是否安全、是否可信、是否可持续”。
对策——守住“三颗心”,以法治化、体系化推动高质量发展。
一要坚守“以人为本”的初心,把人的安全与权利置于优先位置。
应在产品设计、数据采集、模型训练、上线运营全流程落实个人信息保护与数据安全要求,强化对未成年人、老年人等群体的特别保护,推动技术可及与公共服务普惠,避免形成新的“技术壁垒”。
推动人工智能更多以公共产品属性服务社会,提升教育、医疗、养老、应急等领域的可用性与获得感。
二要坚定“赋能发展”的信心,促进技术进步转化为现实生产力。
围绕重点行业“能落地、可复制、可评估”的应用路径,加强标准牵引与场景牵引,推动算力、数据、模型、工具链等基础能力协同布局,支持专精特新企业与链主企业联合攻关,提升产业链韧性与创新效率。
通过试点示范、绩效评估与成本收益核算,推动从“炫技”走向“增效”。
三要强化“科技向善”的决心,把人文关怀、道德伦理与社会责任置于算法效率之前。
加快推进人工智能相关立法进程,完善从技术研发到应用落地的全方位、多层次综合治理体系,明确数据使用边界、算法透明要求、内容标识规范与责任追溯机制。
对深度合成、自动化决策等高风险场景实施更严格的合规要求与审查评估,建立可问责、可纠偏的闭环治理。
前景——在发展与治理、创新与安全间寻求动态平衡。
面向未来,“十五五”规划纲要草案提出加强人工智能同科技创新、产业发展、文化建设、民生保障、社会治理相结合,指向的是更系统的能力建设与治理现代化。
可以预期,随着法规制度完善、标准体系健全、应用示范扩围,人工智能将进一步成为推动高质量发展的重要引擎。
同时,治理也将从事后处置转向事前预防、从单点监管转向协同共治,推动形成安全可控、透明可信的应用生态。
人工智能的发展是一场长期的、系统的工程,需要政府、企业、学界、社会各界的共同参与和协力推进。
守住"三颗心",就是要在发展与治理、创新与安全、效率与伦理之间找到最优平衡点。
只有这样,人工智能才能真正成为推动人类进步的力量,而不是成为脱离人文关怀的冷冰冰的工具。
在新的历史时期,我们有理由相信,通过科学的治理和有序的发展,人工智能必将更好地引领未来、造福人类。