问题——大模型自回归生成时，不同注意力头会形成明显的"几何结构"：有的跳跃检索关键信息，有的持续聚焦序列起始位置形成"锚点"，有的沿最近token形成对角线带状轨迹；这些注意力模式反映了模型内部的功能分工，也常用于KV缓存管理、推理加速等工程优化。但现有研究多停留在经验描述：为何相同的注意力公式下，不同头会自发形成不同模式？哪些因素决定模式的稳定性与可迁移性？缺乏统一解释，导致优化规则难以泛化，在不同模型和任务上效果不稳定。原因——联合团队将解码过程视作时间序列：每步生成的新token依赖此前历史，跨步的隐藏状态与注意力分布构成时间序列。基于该视角，研究将注意力变化拆解到查询Q、键K以及旋转位置编码（RoPE）等关键要素的耦合关系，尝试回答"模式从何而来"。团队发现，注意力模式由跨时间步的表征相似性、位置编码的相位关系及头部功能分工共同塑造；当Q在时间维度上表现出特定相似性结构时，会产生持续聚焦、周期性访问或局部带状读取等稳定轨迹。影响——为将理论转化为实际优化信号，研究提出训练无关的q-similarity指标，用于刻画不同时间步查询向量的相似结构，判断注意力头更可能呈现检索式、锚点式或流式读取等模式。相比依赖再训练或额外监督的方法，该指标可直接用于推理阶段决策：在KV缓存压缩中，有针对性地保留关键历史token；在结构化剪枝中，识别值得保留的注意力头或通道，在资源受限场景下实现更好的精度-效率平衡。这一思路也有助于提升长上下文推理的可控性，降低"盲目裁剪"带来的性能下降风险。对策——面向产业落地与工程部署，统一框架的价值在于将"经验法则"提升为"可解释信号"。一上，可不改变模型训练流程的前提下，将q-similarity等指标纳入推理系统的资源调度策略，实现缓存分配、token保留、头部剪枝等模块的联动优化；另一上，建议在评测体系中强化跨任务、跨上下文长度的稳定性测试，推动从单点指标提升转向可迁移、可复用的系统能力建设。同时，围绕RoPE等位置编码与注意力动态的关系，可为后续位置编码改进、长上下文架构设计提供更清晰的分析依据。前景——随着大模型从"可用"走向"高效、可信、可规模化"，推理成本与长上下文能力持续成为关键瓶颈。TAPPA以时间序列视角建立统一解释框架，并提供可直接驱动优化的量化指标，为理解注意力行为、提升推理效率提供了新路径。未来，该方法有望扩展到更广泛的模型结构与多模态场景，在更复杂的在线服务、端侧部署与超长上下文应用中发挥作用，推动推理系统从"静态配置"走向"按模式自适应"的精细化管理。
在全球科技竞争日益聚焦基础研究的今天，这项成果展现了中国科研团队从理论源头创新的能力。当人工智能发展步入"深水区"，破解"黑箱"认知、建立可解释的技术体系已成为国际共识。该研究不仅连接了基础理论与产业应用，更说明：只有在基础算法原理层面持续突破,才能在国际人工智能竞赛中赢得持久优势。