马斯克,突放“超级大招”
创始人
2024-05-27 19:21:25
0

据外媒报道,最近马斯克向投资者透露,他创办的AI公司xAI计划建造超级算力工厂(Gigafactory of Compute),为下一代AI聊天机器人Grok提供算力支持。这个超级计算机计划连接10万块英伟达H100 GPU。

建成后,这一超级计算机的规模将至少是目前最大GPU集群的四倍,例如Meta为训练其AI大模型构建的集群,后者由英伟达的超6000个A100 GPU构成。马斯克此举背后,英伟达或成最大赢家。英伟达在最新季报中还宣布,全球将新增9台采用其Grace Hopper芯片的超级计算机。

超级计算机或用于训练Grok 3

马斯克表示,他希望在2025年秋季之前让超级计算机运行起来,并补充说xAI可以与甲骨文合作开发这台大型计算机。xAI是甲骨文最大的H100芯片服务器的租赁客户,已经使用了后者超过1.5万块H100芯片。

马斯克去年7月创立了xAI,专注于人工智能业务,旨在挑战微软支持的OpenAI和谷歌。去年11月,xAI推出首款AI大模型聊天机器人Grok,能实时连接到其名下的社交媒体平台X。

目前,Grok的最新版本为3月底发布的Grok 1.5,该版本实现了长上下文理解和高级推理能力,可以处理128K token的长上下文窗口。xAI官方博客表示:“对于构建能够理解世界的AGI(通用人工智能)来说,提高我们的多模态理解和生成能力是重要步骤。未来几个月,我们预计在图像、音频和视频等多模态中对这两种功能进行重大改进。”

马斯克此前透露,xAI正在训练的Grok 2已经耗费了约2万块H100 GPU,训练进程一度因芯片短缺受阻,预计于今年5月训练完成。未来进阶版本的Grok 3可能需要高达10万块H100 GPU。

多个AI巨头寻求构建超级计算机

3月底,有消息称,微软和OpenAI正在计划一个数据中心项目,该项目将包含一个拥有数百万专用服务器芯片的超级计算机,以支持OpenAI的人工智能技术。项目成本可能高达1000亿美元,包括一个名为Stargate(星际之门)的AI超级计算机,预计将于2028年启动。微软很可能负责资助该项目。

2022年初,Meta和英伟达发布了一个大型AI研究超级计算机,其连接了6080个A100 GPU,可以提供五百亿亿次级的AI计算性能。全面部署后,这一超级计算机成为最大的英伟达DGX A100客户系统,用于训练具有超过1万亿个参数的AI模型。

马斯克的特斯拉也构建了一个超级计算机Dojo,它由特斯拉自研的D1芯片构成,用于服务其自动驾驶业务。此前,特斯拉发布的算力规划显示,2023年7月Dojo正式投产。随后,特斯拉的算力规模将进入快速增长期,2024年2月进入全球前五,10月达到100EFLOPS,相当于30万块英伟达A100 GPU的算力总和。

构建超级计算机需要大量投资。近日,外媒报道称,据一位知情人士透露,xAI预计将于6月完成一轮融资,包括最新注入的现金在内,这轮融资可能使该公司的估值超过240亿美元。

在和OpenAI的竞争中,xAI还标榜其能够利用马斯克社交平台X的高质量数据,这对训练大语言模型来说至关重要。

英伟达或成最大赢家

马斯克欲打造的超级计算机计划连接10万块英伟达H100 GPU,英伟达或成最大赢家。

英伟达最新财报数据显示,公司第一财季(截至2024年4月28日)实现营收260亿美元,较去年同期增长262%;净利润148.1亿美元,同比上涨628%。

其中,第一财季英伟达数据中心收入创下225.63亿美元的纪录,较上一季度增长23%,同比涨幅高达427%。英伟达还在季报中宣布,全球将新增9台采用其Grace Hopper超级芯片的超级计算机。

美东时间周四,英伟达股价再度刷新历史新高,总市值达到2.56万亿美元(约合人民币18.54万亿元),超过在德国首次上市公司的总市值。

在新一届全球最节能超级计算机Green500榜单中,前三名的超级计算机均为新上榜者,均基于英伟达Grace Hopper打造。在榜单前10名的超级计算机中,有7个采用了英伟达技术;前50中有40台都使用了英伟达技术。

英伟达也对xAI表示了认可和支持。英伟达首席财务官科莱特·克雷斯(Colette Kress)在提及将首批体验英伟达下一代旗舰芯片Blackwell的客户名单时,特别提到了xAI。这份名单中还包括了OpenAI、亚马逊、谷歌等行业巨头。

责编:王时丹 | 审核:李震 | 监审:万军伟

(来源:上海证券报)

相关内容

热门资讯

工信部:支持研发专业性高、落地... 央广网北京6月10日消息(记者 黄昂瑾)近日,工业和信息化部印发《“人工智能+信息通信”创新发展实施...
华通精密取得FPCA测试治具专... 国家知识产权局信息显示,华通精密线路板(惠州)股份有限公司取得一项名为“一种FPCA测试治具”的专利...
原创 红... 随着手游与应用不断升级,高配置、高性能的机型越来越多,比如红米K90系列、荣耀WIN系列、iQOO ...
科和盛业取得磁控溅射布气装置专... 国家知识产权局信息显示,深圳市科和盛业技术有限公司、东莞市科盛机电设备有限公司取得一项名为“一种磁控...
科创001丨近1300万份报告... 深圳商报·读创客户端首席记者 陈小慧 文/图 “2025年我们累计为考⽣⽣成了近1300万份报告。这...
原创 为... 郭靖称得上是金庸笔下塑造得最为成功的一个角色。 他不仅仅是在武林中惩奸除恶的侠客,更是心系天下苍生的...
“西安麻辣烫女孩”,为啥不是一... 作 者 | 小林 来 源 | 雷叔写故事 01 李月亮☽ 可能你已经听过“西安麻辣烫女孩”的故事了。...
用“意外”衡量安全:Waymo... 6 月 10 日消息,Waymo 今日在《自然 · 通讯》上发表了一篇研究论文,介绍了一个名为 Re...
美丽中国行|川陕大熊猫为何不“... 陕西秦岭大熊猫被誉为“国宝中的美人”,相比四川的大熊猫,秦岭大熊猫更像猫,也更原始。 秦岭大熊猫佛...
花溪剑桥中学:这群少年,为何毕... 初夏的风裹着香樟香,贵阳市花溪区剑桥中学,又迎来了一批特殊的“归客”。 他们是曾经的剑桥少年,如今带...