7月31日,阶跃星辰宣布新一代基础大模型Step 3正式开源,已上线阶跃星辰开放平台。据介绍,Step 3的多模态能力围绕“轻量视觉路径”与“稳定协同训练”展开,重点解决视觉引入带来的token负担与训练干扰问题。为此,其采用5B Vision Encoder,并通过双层2D卷积对视觉特征进行降采样,将视觉token数量减少到原来的1/16,减轻上下文长度压力,提升推理效率。
7月31日,阶跃星辰宣布新一代基础大模型Step 3正式开源,已上线阶跃星辰开放平台。据介绍,Step 3的多模态能力围绕“轻量视觉路径”与“稳定协同训练”展开,重点解决视觉引入带来的token负担与训练干扰问题。为此,其采用5B Vision Encoder,并通过双层2D卷积对视觉特征进行降采样,将视觉token数量减少到原来的1/16,减轻上下文长度压力,提升推理效率。
AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。
鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑