当前数字化内容生产快速增长，部分网络用户为追逐流量收益——刻意规避技术标识要求——使虚假信息治理面临新挑战。网信部门最新通报显示，2024年第一季度查处的五类典型案例表现为明显共性：一是虚构动物救人等离奇情节，二是伪造名人形象及言论，三是恶意炒作社会突发事件，四是制作涉未成年人有害内容，五是非法提供技术规避服务。这些行为触碰内容创作底线，扰乱网络信息秩序。
AI技术是一把双刃剑，关键在于如何使用。规范AI生成内容的使用，已成为网络治理的重要议题。网信部门的集中整治推动了网络生态改善，但治理不可能一蹴而就。要从根本上缓解问题，需要平台、创作者、监管部门与公众共同参与。网络内容创作者应认识到，依法合规、规范使用AI技术不仅是法律要求，也是对公众的基本尊重。只有各方把责任放在首位，才能更好营造清朗网络环境，让AI技术更有效地服务社会发展。