DeepSeek发布了其首个开源项目FlashMLA，这是一个专为Hopper GPU优化的高效MLA解码内核。该内核旨在加速LLM模型的解码过程，提高模型的响应速度和吞吐量，尤其适用于实时生成任务。FlashMLA支持变长序列处理、BF16数据格式和分页KV缓存，在H800上实现了高达3000 GB/s的内存带宽和580 TFLOPS的计算性能。此举被视为DeepSeek在高性能AI任务领域的重要一步，引发了社区对其后续开源项目的热烈期待。

🚀 FlashMLA是DeepSeek开源的针对Hopper GPU优化的高效MLA解码内核，旨在加速LLM的解码过程，提高模型性能。

💡 FlashMLA支持变长序列处理，并采用了BF16数据格式和分页KV缓存（块大小64），从而提升了内存带宽和计算性能。

💻 FlashMLA在H800 GPU上实现了3000 GB/s的内存带宽和580 TFLOPS的计算性能，为高性能AI任务提供了强劲的动力。

2025-02-24 10:10 广东

就在刚刚，DeepSeek 第一天的开源项目 FlashMLA 正式发布。

DeepSeek 官方在 X 平台发文称：

「很荣幸能分享 FlashMLA —— 我们专为 Hopper GPU 优化的高效 MLA 解码内核，不仅支持变长序列处理，现在已经投入生产使用。

✅ 支持 BF16

✅ 分页 KV 缓存（块大小 64）

⚡ 在 H800 上实现 3000 GB/s 的内存带宽 & 580 TFLOPS 的计算性能」

据官方介绍，FlashMLA 的灵感来自 FlashAttention 2&3 和 cutlass 项目。

具体来说，FlashMLA是一个针对 Hopper GPU 优化的高效 MLA（Multi-Layer Attention）解码内核。

它专门针对多层注意力机制进行了优化，能够加速 LLM 的解码过程，从而提高模型的响应速度和吞吐量。而这对于实时生成任务（如聊天机器人、文本生成等）尤为重要。

说人话就是，FlashMLA 是一个能让 LLM 模型在 H800 上跑得更快、更高效的优化方案，尤其适用于高性能 AI 任务。

看到第一天的开源项目，X 网友已经迫不及待地开始畅想第 5 天的重磅内容，纷纷猜测：「会不会是 AGI？」

附上 GitHub 开源项目地址：

https://github.com/deepseek-ai/FlashMLA

就在刚刚，DeepSeek 第一天的开源项目 FlashMLA 正式发布。

DeepSeek 官方在 X 平台发文称：

「很荣幸能分享 FlashMLA —— 我们专为 Hopper GPU 优化的高效 MLA 解码内核，不仅支持变长序列处理，现在已经投入生产使用。

✅ 支持 BF16

✅ 分页 KV 缓存（块大小 64）

⚡ 在 H800 上实现 3000 GB/s 的内存带宽 \x26amp; 580 TFLOPS 的计算性能」

据官方介绍，FlashMLA 的灵感来自 FlashAttention 2\x26amp;3 和 cutlass 项目。

具体来说，FlashMLA是一个针对 Hopper GPU 优化的高效 MLA（Multi-Layer Attention）解码内核。

它专门针对多层注意力机制进行了优化，能够加速 LLM 的解码过程，从而提高模型的响应速度和吞吐量。而这对于实时生成任务（如聊天机器人、文本生成等）尤为重要。

说人话就是，FlashMLA 是一个能让 LLM 模型在 H800 上跑得更快、更高效的优化方案，尤其适用于高性能 AI 任务。

看到第一天的开源项目，X 网友已经迫不及待地开始畅想第 5 天的重磅内容，纷纷猜测：「会不会是 AGI？」

附上 GitHub 开源项目地址：

https://github.com/deepseek-ai/FlashMLA

跳转微信打开