Cnbeta 2024年12月07日
新版Llama 3 70B反超405B Meta开卷后训练 Google马斯克都来抢镜
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

OpenAI“双12”期间,大模型领域竞争白热化!Meta推出性能强劲的Llama 3.3,70B版本即可媲美此前的405B版本,且成本更低。与此同时,Google的Gemini也迎来更新,新版本在多个领域表现出色,重回大模型竞技场榜首。此外,马斯克的Grok 3也传闻即将发布,且Grok现已开放免费使用,预示着大模型领域将迎来更加激烈的竞争。

🚀Meta的Llama 3.3以70B的较小模型,在指令遵循、数学、推理等领域超越了此前405B的Llama 3.1,且使用成本大幅降低,这得益于后训练技术的最新进展,包括在线偏好优化。

🥇Google的Gemini 1206版本在大模型竞技场上重回榜首,在困难提示词、代码、数学、创意写作等各个单项排名中均位列第一,且拥有200万token的上下文窗口,目前可通过Google AI Studio和Gemini API免费使用。

🎁正值Gemini一周年生日,此次更新被Google首席科学家Jeff Dean视为最好的生日礼物。然而,也有人指出o1尚未出现在榜单,且GPT-4.5即将到来,Google的领先地位可能很快被OpenAI取代。

🆓马斯克的xAI也被传即将发布Grok 3,并且此前需要付费使用的Grok现在已开放免费使用,虽然免费用户在使用量上有限制,但这一举措无疑将加剧大模型领域的竞争。

🔮Grok 3计划在本月上线,但这一消息的来源似乎是Grok自身,其真实性还有待验证。在这个大模型发布密集的十二月,竞争异常激烈,未来发展令人期待。

OpenAI“双12”刚进行到第二天,就把大模型圈搅得好不热闹!一边是Meta没预告就发布了Llama 3.3,70B版本就能实现以前405B的性能。


另一边Google的Gemini也上线了新的实验版模型,再一次登上大模型竞技场榜首。


有网友感叹,o1、Llama 3.3和新版Gemini接连发布,马斯克的Grok3也要来,还有GPT-4.5初露端倪……这简直是最棒的一个圣诞季。


Llama 3.3:70B实现405B效果

Llama 3.3目前只有70B一个型号。

但在指令遵循(IFEval)、数学(MATH)、推理(GPQA Diamond)等领域,水平都超过了七月份发布的Llama 3.1 405B

在语言(MMLU)、代码(HumanEval)、长文本和多语种能力上,成绩也和Llama 3.1 405B比较接近。

而在工具使用(BFCL)上,和405B的差距则显得稍大一些。


不过,Llama 3.3的使用成本要比Llama 3.1 405B低得多

虽然Llama本身是免费的,但是各个大模型平台的服务价格也可以作为衡量成本的一个参考。

在Meta合作的平台当中,Llama 3.3最便宜的价格是0.1/0.4美元每百万输入/输出Token。

而Llama 3.1 405B,则是1美元每百万输入token,是Llama 3.3的10倍,输出token为1.8美元,是Llama 3.3的4.5倍。


Meta生成式AI团队领导者Ahmad Al-Dahle表示,Llama 3.3能用70B实现405B的效果,主要是“运用了后训练技术的最新进展”,并点名其中包括在线偏好优化(online preference optimization)。


Meta AI官方账号也提到,Llama 3.3的进步归功于新的对齐过程和在线强化学习技术的进步。


目前,Llama 3.3的模型权重已在官网和Hugging Face上开放下载。


Gemini迎来周岁生日

Gemini 1206上线的这天,刚好是Gemini的一周岁生日。

不过,从节奏和以日期命名的方式来看,Gemini更像是一次例行更新(上一个版本是1121)。

当然成绩还是很不错的,直接登上了lmsys大模型竞技场的榜首


而且不只是总成绩夺冠,困难提示词、代码、数学、创意写作等各个单项排名也都是第一


实际上,Gemini此前有个1114版本,也当了一周的“榜一大哥”,后来被更新的GPT-4o给比了下去。

现在的最新版本,又让Gemini重新回到了榜单上的王座。


此外,GoogleAI Studio产品负责人(原OpenAI开发者社区主管)Logan介绍,Gemini 1206拥有2百万token的上下文窗口,目前可通过GoogleAI Studio和Gemini API免费使用。


Google首席科学家Jeff Dean表示,取得这样的成绩是对Gemini生日最好的庆祝方式。


不过也有网友给Google泼了盆冷水,表示o1还没出现在这个榜单上,而且GPT-4.5就要来了,Google第一的位置恐怕很快又会被OpenAI夺走。


One More Thing

除了Google和Meta,马斯克xAI也被盛传即将发布Grok 3。

有网友发现,正在测试的Grok 2 mini消失了,认为这是要发Grok 3的征兆。


除了对Grok 3的猜测,还有一条更确定的消息——此前要充会员才能用的Grok,现在可以免费用了

不过免费用户用量比较有限,每两小时只能处理10条消息,而图片分析一天只能处理三张。


有意思的是,我们试了试询问Grok自己,它也表示Grok 3计划在这个月上线。

但抓马的是,点进后面引用的消息源,发现这名博主也是问Grok之后发的帖子……


那么,在这个发布密集的十二月,你最钟意或者最期待哪一款产品呢?

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

大模型 Llama 3.3 Gemini Grok 3 OpenAI
相关文章