华尔街见闻 - 最热文章 03月22日 20:13
腾讯混元深度思考模型T1正式版来了,吐字快、能秒回,解码速度提升2倍
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

腾讯于3月21日推出了自研深度思考模型混元T1正式版,该模型在腾讯云上线,定价为每百万token输入1元,输出4元。混元T1以“吐字快、能秒回”和“擅长超长文处理”为特点,是腾讯自研的强推理模型。它在速度和效果上均表现出色,解码性能高于行业标准,逻辑推理能力强,且幻觉率低。通过大规模强化学习和专项优化,混元T1在MMLU-PRO等评估中表现优异,并在CEval、AIME等基准测试中达到业界领先水平。混元T1采用Hybrid-Mamba-Transformer融合架构,降低了计算复杂度,提高了推理效率。

🚀 速度优势:混元T1正式版解码性能高于行业2倍,首字秒出,吐字速度达每秒60至80token。

🧠 推理能力:通过大规模强化学习及专项优化,混元T1在MMLU-PRO等评估中表现优异,逻辑推理得分93.1。

⚙️ 架构创新:采用Hybrid-Mamba-Transformer融合模式,降低计算复杂度,减少KV-Cache内存占用,降低训练和推理成本。

📝 长文处理:具备出色的长文捕捉能力,有效解决长文推理中常见的上下文丢失和长距离信息依赖问题。

🏆 市场表现:在Chatbot Arena和SuperCLUE测评中表现突出,Chatbot Arena排名全球Top 15,SuperCLUE测评中位列国内第二。

腾讯混元3月21日周五宣布,正式推出自研深度思考模型混元T1正式版,已在腾讯云官网上线,输入价格为每百万token 1元,输出价格为每百万token 4元。

腾讯混元概括,混元T1正式版的特点为“吐字快、能秒回”、“擅长超长文处理”,称它是腾讯自研的强推理模型。

速度方面,混元T1正式版在可比参数量下的解码性能高于行业2倍,首字秒出,吐字速度每秒60至80token,具备优秀的长文处理能力。多项指标达到业界领先推理模型的水平,效果方面,混元T1正式版逻辑强、文风简洁、复杂指令跟随准确,摘要幻觉低。

通过大规模强化学习,并结合数学、逻辑推理、科学和代码等理科难题的专项优化,混元T1正式版进一步提升了推理能力。

在体现推理模型基础能力的常见评估指标中,如大语言模型(LLM)评估增强数据集MMLU-PRO中,混元T1取得87.2分,仅次于得分89.3的OpenAI o1,高于得分86.1的OpenAI GPT 4.5和得分84的DeepSeek R1。

在CEval、AIME、Zebra Logic等中英文知识及竞赛级数学、逻辑推理的公开基准测试中,混元T1的成绩也达到业界领先推理模型的水平,其中,逻辑推理得分93.1,高于前述三个模型o1、GPT 4.5和R1。

混元T1正式版的强大推理能力源于,腾讯沿用混元Turbo S的架构,采用Hybrid-Mamba-Transformer 融合模式。这是工业界首次将混合Mamba架构无损应用于超大型推理模型。

上述架构有效降低了传统Transformer结构的计算复杂度,减少了KV-Cache的内存占用,从而显著降低了训练和推理成本

混元T1在超长文本推理领域也展现出独特优势。

基于出色的长文捕捉能力,混元T1能有效解决长文推理中常见的上下文丢失和长距离信息依赖问题。同时,混合Mamba架构针对长序列处理进行了专项优化,通过高效的计算方式,在确保长文本信息捕捉能力的同时大幅降低资源消耗,在相近的激活参数量下,实现了解码速度提升2

在上线全新推理模型之前,本周一,腾讯混元模型首次登上了海外权威大模型竞技场 Chatbot Arena 的榜单,跻身全球 Top 15。一同上榜的还有阿里巴巴本月6日发布的通义千问最新开源模型QwQ-32B。

不同于其他测评,Chatbot Arena 的测评人是C端用户——用户在平台上以匿名方式与多个模型互动,然后投票决定哪个模型更好,从而根据分数生成排行榜。这种测评也被看成是大模型直接PK的竞技场,简单直接。

腾讯混元模型在中文基础能力测试中也表现突出。本周二发布的《中文大模型测评基准SuperCLUE 3月报告》中,腾讯混元位列基础模型国内第二,综合实力稳居国内大模型第一梯队。

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

腾讯混元 混元T1 推理模型 大模型
相关文章