虎嗅 2024年09月21日
“真正的推理端刚刚开始”,训练算力成本仍占至少七成,大模型下半场何时爆发?据财联社,“关于AI是否到达瓶颈以及进展是否会放缓的争论,其实已经持续了一段时...
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

OpenAI发布的o1系列大模型强调推理能力,引发推理算力关注度攀升。目前AI算力需求增长动力主要来自训练,训练算力成本占至少七成,而真正的推理端或刚刚开始。

🎯OpenAI的o1系列大模型着重强调推理能力,这使得模型推理端算力的受关注度提高。此系列大模型的出现,为AI领域的发展带来了新的方向和挑战。它不仅推动了推理算力需求的进一步提升,也让人们对大模型的未来发展有了更多的期待。

📈现阶段,AI算力需求的主要增长动力仍然来自于训练。模型厂商算力成本中,训练端占比至少七成左右。这表明训练在当前AI发展中仍占据着重要地位,同时也意味着在提高推理能力的同时,不能忽视训练的重要性。

🚀推理被视作大模型的“下半场”,虽然真正的推理端或许刚刚开始,但随着大模型的广泛落地,推理算力有望实现高增长。这为AI行业的发展带来了新的机遇,也需要相关企业和研究机构加大对推理端的研究和投入。

“真正的推理端刚刚开始”,训练算力成本仍占至少七成,大模型下半场何时爆发?

据财联社,“关于AI是否到达瓶颈以及进展是否会放缓的争论,其实已经持续了一段时间。AI发展不仅没有放缓,而且我们对未来几年已经胜券在握。”OpenAI创始人兼首席执行官Sam Altman在近日的访谈中表示。

持续引领业界技术发展方向的OpenAI最新发布的o1系列大模型着重强调推理能力,引发模型推理端算力的关注度攀升。财联社记者日前多方采访业内人士获悉,o1的发布将带动推理算力的需求进一步提升,随着大模型广泛落地,推理算力有望高增。推理被视作大模型“下半场”,不过现阶段来看,AI算力需求主要的增长动力仍来自于训练,模型厂商算力成本中训练端占比至少七成左右,真正的推理端或刚刚开始。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

OpenAI 大模型 推理算力 AI发展
相关文章