祝贺

｜Congratulations

张海林博士（2020级信息科学技术学院博士研究生），导师为北京大学计算机学院副院长崔斌教授，主要研究方向是机器学习系统，目前已发表10余篇CCF-A类文章，其中7篇第一作者/共同一作论文，一作/共一文章曾获得数据库顶级会议VLDB的可扩展数据科学最佳论文奖、SIGMOD的最佳代码实现提名奖。他是开源高性能分布式深度学习系统河图的主要代码贡献者，有多项研究成果已在腾讯、微软、小米等业界场景得到应用。他曾获得北京大学优秀毕业生、北京大学校长奖学金、北京大学三好学生等荣誉。

张海林的博士学位论文主要研究深度学习中大规模嵌入向量的管理技术，选题具有重要的理论意义和实践价值。深度学习中的嵌入向量规模快速增长，带来管理挑战。文章针对嵌入向量在模型输出、输入和中间表示中的不同应用场景，提出三种优化技术：

1）提出生成模型增强的向量索引，对于模型输出向量的检索，结合生成模型与传统检索，实现高效两阶段搜索，提升效果且保持低延迟。

2）提出紧凑、适应性、快速的嵌入向量压缩框架，对于模型输入向量的训练，动态追踪重要特征、并分配存储资源，满足高存储效率、低延迟、适应性。

3）提出基于乘积量化的键值缓存管理技术，对于大语言模型缓存的向量，用乘积量化管理并选择重要token进行计算，平衡推理效率与质量。

凌宿寒（2021级信息科学技术学院本科毕业生），将于2025年9月进入北京大学计算机学院攻读博士学位，导师为北京大学计算机学院副院长崔斌教授，研究方向为机器学习系统。本科期间已发表2篇学术论文，并曾获得北京大学三好学生等荣誉。未来将继续在分布式深度学习系统优化、高效推理等方向开展研究。

凌宿寒的毕业论文针对Diffusion Transformer（DiT)在视频生成过程中面临的注意力计算效率瓶颈问题，提出了一种创新的AdaSpa优化方案。该研究通过分析DiT固有的层次化稀疏特征，设计了基于块状稀疏表征的高效注意力计算范式；同时利用去噪过程中稀疏模式的不变性，实现了在线精确搜索与实时计算优化；并创新性地引入分步调度策略，根据去噪阶段的重要性差异动态分配计算资源。实验结果表明，AdaSpa方案在不影响生成视频质量的前提下，能够稳定实现1.7-1.8倍的加速效果，为解决高质量视频生成的实时性问题提供了实用且高效的解决方案。