IT之家 2024年12月27日
国产大模型 DeepSeek-V3 开源:6710 亿参数自研 MoE,性能和 GPT-4o 不分伯仲
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

深度求索官方发布DeepSeek-V3模型,这是一个拥有6710亿参数的专家混合模型,激活参数370亿,在14.8万亿token上进行了预训练。该模型在多项评测中超越了Qwen2.5-72B和Llama-3.1-405B等开源模型,性能媲美GPT-4o和Claude-3.5-Sonnet等顶尖闭源模型。DeepSeek-V3在知识、长文本、代码、数学和中文等方面均有显著提升,尤其在算法代码和数学方面表现突出,生成速度达到60 TPS,是V2.5的3倍。官方已开源原生FP8权重,并提供BF16转换脚本。同时,DeepSeek还调整了API服务价格,并为新模型设置了45天的优惠体验期。

🚀DeepSeek-V3模型参数达6710亿,采用专家混合架构,激活参数370亿,并在14.8万亿token上完成预训练,性能显著提升。

🏆多项评测显示,DeepSeek-V3超越了Qwen2.5-72B和Llama-3.1-405B等开源模型,性能比肩GPT-4o和Claude-3.5-Sonnet等顶尖闭源模型,尤其在算法代码和数学方面表现突出。

⏱️DeepSeek-V3模型生成速度大幅提升至60 TPS,相比V2.5提升了三倍,官方开源了原生FP8权重,并提供BF16转换脚本,方便社区适配和应用。

💰DeepSeek调整了API服务价格,并为新模型设置45天优惠体验期,在此期间,API服务价格为每百万输入tokens 0.1元(缓存命中)/ 1元(缓存未命中),每百万输出tokens 2元。

IT之家 12 月 27 日消息,“深度求索”官方公众号昨日(12 月 26 日)发布博文,宣布上线并同步开源 DeepSeek-V3 模型,用户可以登录官网 chat.deepseek.com,与最新版 V3 模型对话。

IT之家援引博文介绍,DeepSeek-V3 是一个 6710 亿参数的专家混合(MoE,使用多个专家网络将问题空间划分为同质区域)模型,激活参数 370 亿,在 14.8 万亿 token 上进行了预训练。

多项评测成绩超越 Qwen2.5-72B 和 Llama-3.1-405B 等开源模型,性能比肩 GPT-4o 和 Claude-3.5-Sonnet 等世界顶尖闭源模型。

该模型在知识、长文本、代码、数学和中文等方面均取得显著进步,尤其在算法代码和数学方面表现突出,生成速度提升至 60 TPS,相比 V2.5 提升了 3 倍。

官方开源了原生 FP8 权重,并提供 BF16 转换脚本,方便社区适配和应用。SGLang、LMDeploy、TensorRT-LLM 和 MindIE 已支持 V3 模型推理。

DeepSeek-V3 更新上线的同时,DeepSeek 还调整了 API 服务价格,模型 API 服务定价也将调整为每百万输入 tokens 0.5 元(缓存命中)/ 2 元(缓存未命中),每百万输出 tokens 8 元。

官方还决定为全新模型设置长达 45 天的优惠价格体验期:即日起至 2025 年 2 月 8 日,DeepSeek-V3 的 API 服务价格仍然会是大家熟悉的每百万输入 tokens 0.1 元(缓存命中)/ 1 元(缓存未命中),每百万输出 tokens 2 元,已经注册的老用户和在此期间内注册的新用户均可享受以上优惠价格。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

DeepSeek-V3 开源模型 大语言模型 API服务 人工智能
相关文章