DeepSeek R1具有强大的推理能力，能够通过多次推理和思考得出问题的最佳答案。但其中每一步推理和思考都会消耗大量的计算资源，进而提高了单次推理的算力成本。如何缩减DeepSeek R1的推理算力成本，降低私有化部署门槛，是全行业共同面临的难题。

今年3月，清程极智联合清华大学翟季冬教授团队开源了大模型推理引擎赤兔（Chitu），率先实现了在非H卡设备运行原生FP8模型突破。实测数据显示，使用赤兔引擎在H800集群上部署满血版DeepSeek R1，相比于vLLM部署方案，能够在减少50%的GPU使用量的同时，将输出速度提升3.15倍。这意味着通过赤兔推理引擎，企业可以通过更少的硬件资源，实现更高的性能，大幅降低推理模型的私有化部署成本。

3月27日19点，智猩猩「DeepSeek大解读」系列公开课第6期将开讲，由清程极智联合创始人唐适之博士主讲，主题为《低成本DeepSeek R1推理挑战与赤兔推理引擎实践》。

本次公开课，唐适之博士首先会对DeepSeek R1与日益增长的算力需求进行分析，并探讨有限硬件资源下的大模型推理取舍之道。之后，唐适之博士还会深入讲解开源大模型推理引擎“赤兔”如何降低DeepSeek R1推理所需的硬件成本，尤其是在更广泛GPU上的FP8数据类型的推理优化实践。

本期公开课将以视频直播形式在智猩猩GenAI视频号进行，大家可以点击下方视频号卡片，提前预约。

针对此次公开课，也会组建交流群。希望入群与更多同仁探讨的，可以扫描下方二维码添加小助手“小石头”，私信发送“DeepSeek06”。