OpenAI发布的o1系列大模型强调推理能力,引发推理算力关注度攀升。目前AI算力需求增长动力主要来自训练,训练算力成本占至少七成,而真正的推理端或刚刚开始。
🎯OpenAI的o1系列大模型着重强调推理能力,这使得模型推理端算力的受关注度提高。此系列大模型的出现,为AI领域的发展带来了新的方向和挑战。它不仅推动了推理算力需求的进一步提升,也让人们对大模型的未来发展有了更多的期待。
📈现阶段,AI算力需求的主要增长动力仍然来自于训练。模型厂商算力成本中,训练端占比至少七成左右。这表明训练在当前AI发展中仍占据着重要地位,同时也意味着在提高推理能力的同时,不能忽视训练的重要性。
🚀推理被视作大模型的“下半场”,虽然真正的推理端或许刚刚开始,但随着大模型的广泛落地,推理算力有望实现高增长。这为AI行业的发展带来了新的机遇,也需要相关企业和研究机构加大对推理端的研究和投入。
“真正的推理端刚刚开始”,训练算力成本仍占至少七成,大模型下半场何时爆发?
据财联社,“关于AI是否到达瓶颈以及进展是否会放缓的争论,其实已经持续了一段时间。AI发展不仅没有放缓,而且我们对未来几年已经胜券在握。”OpenAI创始人兼首席执行官Sam Altman在近日的访谈中表示。
持续引领业界技术发展方向的OpenAI最新发布的o1系列大模型着重强调推理能力,引发模型推理端算力的关注度攀升。财联社记者日前多方采访业内人士获悉,o1的发布将带动推理算力的需求进一步提升,随着大模型广泛落地,推理算力有望高增。推理被视作大模型“下半场”,不过现阶段来看,AI算力需求主要的增长动力仍来自于训练,模型厂商算力成本中训练端占比至少七成左右,真正的推理端或刚刚开始。