蓝点网 2024年07月02日
埃隆马斯克称xAI将在年底推出Grok 3 使用10万张英伟达H100加速卡进行训练
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

埃隆马斯克旗下的人工智能公司 xAI 的主要产品 Grok 将迎来升级,Grok 2 预计在 8 月份发布,性能更强的 Grok 3 则将在今年年底问世。xAI 使用了 10 万张 NVIDIA H100 AI 加速卡进行训练,马斯克强调使用如此规模的加速卡进行训练是因为 xAI 坚持自己获取并清洗数据,而不是直接使用 OpenAI 输出的结果进行训练,他认为这将带来巨大的性能提升。

👨‍💻 **xAI 的 Grok 2 和 Grok 3 将在今年发布:** 埃隆·马斯克宣布 xAI 的 Grok 2 将于 8 月份发布,而性能更强的 Grok 3 则会在今年年底问世。这表明 xAI 在人工智能模型的研发方面取得了显著进展,并计划在短期内推出更强大的产品。

🚀 **xAI 使用 10 万张 NVIDIA H100 AI 加速卡进行训练:** xAI 为了训练其模型,投入了大量资源,使用了 10 万张 NVIDIA H100 AI 加速卡。如此规模的加速卡购买成本和训练的电费都难以想象,这显示出 xAI 对人工智能模型训练的重视程度,以及其对模型性能的追求。

🧠 **xAI 坚持自己获取并清洗数据:** 马斯克强调 xAI 在训练 Grok 2 时,坚持自己获取并清洗数据,而不是直接使用 OpenAI 输出的结果进行训练。他认为,这种方式虽然更耗费时间和精力,但可以确保模型的质量和性能。这与目前一些 AI 公司直接使用 OpenAI 输出的结果进行训练形成了鲜明对比,马斯克认为这种做法会导致模型能力的不足。

📊 **Grok 1.5 在基准测试中表现出色:** Grok 的最新版本 1.5 在推理能力和上下文长度方面有所改进,并在基准测试中表现出色,虽然略逊于 GPT-4,但在 HumanEval 测试中甚至超过了 GPT-4。这表明 xAI 的模型在某些方面已经达到了领先水平。

💡 **xAI 的数据清洗策略带来性能提升:** 马斯克认为,xAI 的数据清洗策略是 Grok 2 取得巨大进步的关键因素之一。通过对数据的精心处理,xAI 能够确保模型训练的质量,从而提升模型的性能。这表明数据清洗在人工智能模型训练中扮演着至关重要的角色。

📈 **Grok 的未来发展方向:** Grok 2 和 Grok 3 的发布,以及 xAI 在数据清洗和模型训练方面的努力,预示着 Grok 未来将继续发展,并可能在人工智能领域取得更大的突破。

🌐 **xAI 的竞争对手:** xAI 的竞争对手包括 OpenAI、Google、Microsoft 等,这些公司都在人工智能领域投入了大量的资源,并取得了显著的成果。xAI 想要在竞争中脱颖而出,需要不断提升其模型的性能和功能。

💰 **xAI 的商业模式:** xAI 目前将 Grok 集成到 X/Twitter 中,供 X Premium 订阅用户使用。未来,xAI 可能将 Grok 推向更广泛的市场,并探索新的商业模式。

🚀 **人工智能的未来:** xAI 的努力和成果表明,人工智能技术正在快速发展,并将对社会产生深远的影响。未来,人工智能将应用于更多领域,并为人们的生活带来更多便利。

🔍 **xAI 的目标:** xAI 的目标是开发出安全、可靠、有益于人类的人工智能技术。xAI 相信,人工智能技术应该用于解决人类面临的挑战,而不是对人类构成威胁。

xAI 是埃隆马斯克旗下的人工智能技术开发公司,其主要产品名为 Grok,目前 Grok 已经集成到 X/Twitter 中供 X Premium 订阅用户使用。

今天埃隆马斯克发布消息称 xAI 的 Grok 2 将在 8 月份发布,而性能更好的 Grok 3 将会在今年年底发布,当前应该是已经完成主要内容的训练。

值得注意的是 xAI 使用了 10 万张 NVIDIA H100 AI 加速卡进行训练,如此规模的加速卡购买成本和训练的电费估计都难以想象。

为什么马斯克要强调使用这么多的加速卡进行训练呢?这其实也是有原因的,因为 Cohere 公司首席执行官 Aidan Gomez 称很多模型都在 OpenAI 输出的基础上进行训练,而不是他们自己训练的。

Aidan Gomez 称模型是通过 OpenAI 输出结果进行训练还是由 AI 公司自己训练的,这有很大的区别,用户可以感觉出来这两种模型之间存在的差异。

马斯克也认同 Aidan Gomez 这种观点,对 AI 公司来说如果自己抓取数据进行训练,一个无法绕过的步骤就是对数据进行清洗,因为很多数据都是垃圾数据无法被用于 AI 模型训练,AI 公司需要花费大量时间和精力清洗数据留下有用的数据用于模型训练,而 xAI 的 Grok 2 训练数据都是他们自己获取并经过清洗的,马斯克称在这方面 Grok 2 取得了巨大进步。

话说利用 OpenAI 输出的数据训练 AI 模型目前应该是比较流行的,AI 公司只需要支付 API 费用就可以从 OpenAI 那里获得大量数据,直接使用这些数据训练 AI 模型就可以了,都不需要进行复杂的清洗,但这样训练出来的模型在能力方面可能要差些。

目前 Grok 的最新版是发布于 3 月份的 1.5 版,该版本改进了推理能力并提供 128K 上下文,基准测试中 Grok 1.5 币 GPT-4 差些但差距不是很大,在 HumanEval 测试中甚至超过了 GPT-4。


限时活动推荐:开搜AI智能搜索免费无广告直达结果全能播放器VidHub支持挂载网盘云播阿里云服务器99元/年

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

xAI Grok 人工智能 深度学习 模型训练 数据清洗 埃隆·马斯克 OpenAI
相关文章