2024-06-23
谷歌声称其第四代TPU优于英伟达GPU,但业界认为后者领导地位难撼动-万事数码网
数码
页面更新时间:2024-06-23
新闻网
百科网
数码网
汽车网
宠物网
植物网
英语网
财经网
美食网
母婴网
联系我们
SITEMAP
万事数码网

谷歌声称其第四代TPU优于英伟达GPU,但业界认为后者领导地位难撼动

2024-06-16 11:08:29 发布

网·人工智能4与13日谷歌日前声称,公司在AI超级计算能力方面可以胜过英伟达。但业界认为,这一消息并不可能对英伟达这家市场领导者带来太大困扰。

谷歌近日发布一份研究报告称,采用其TPU驱动的AI超级计算机与运行NvidiaA100GPU的同等机器比具有更好的性能和能效。

谷歌已将4000个第四代TPU串联在一起,构建了一台超级计算机,并称这台超级计算机的运行速度要比采用NvidiaA100GPU的同等机器快1.7倍,效率高出1.9倍。

谷歌在俄克拉荷马州运行的TPUv4驱动的超级计算机

英伟达从生成式AI的繁荣发展中受益,用户对NvidiaA100GPU的需求激增。A100主要用于训练大型语言AI模型,例如OpenAI的GPT-4。

业界认为,随着英伟达新的GPUH100即将上市,该公司不太可能对谷歌的这一成就感到担忧。

谷歌自从2020年以来一直在内部使用TPUv4,并于去年向其谷歌云平台的客户提供了这些芯片。该公司最大的大型语言模型PaLM就是使用两台4000TPU超级计算机进行训练的。

谷歌研究人员NormJouppi和杰出工程师DavidPatterson在发表的一篇关于该系统的博客文章中解释说:“采用光电路交换机可以很容易地绕过故障组件。这种灵活性甚至允许我们改变超级计算机互连的拓扑结构,以加速机器学习模型的性能。”

GlobalData负责半导体市场开发的MikeOrme表示,采用光电路交换机是谷歌提升超级计算机性能的关键。他解释说:“虽然每个TPU的处理速度都比不上最好的英伟达AI芯片,但谷歌用于连接芯片和在芯片之间传递数据的光电路交换技术弥补了性能差异。”

英伟达技术已经成为训练AI模型的黄金标准,一些大型科技公司购买了数千个NvidiaA100GPU,试图在AI的技术竞争中超越对手。而OpenAI用于训练GPT-4的超级计算机配备了1万个英伟达GPU,每个零售价高达1万美元。

NvidiaA100GPU

最新消息显示,A100即将被英伟达的最新型号H100所取代。在MLPerf(一个跟踪处理器性能的开放AI工程联盟)日前发布的推理基准测试报告中,H100在功率和效率方面位居行业榜首。

NvidiaH100GPU

英伟达声称,H100GPU的运行速度是谷歌拿来进行比较的A100GPU的9倍。这种速度优势将消除谷歌光电路交换技术带来的优势。

谷歌90%的AI训练都使用TPU,但尽管其芯片功能强大,但Orme预计谷歌并不会将其推向第三方使用,因为谷歌并没有在AI芯片商用市场与英伟达芯片进行竞争的野心,其TPU专门用于谷歌数据中心或其AI超级计算机。”

为什么谷歌之外的用户很少会使用这项技术?Orme认为是因为谷歌云在公共云市场上的份额很小。根据SynergyResearchGroup发布的调查数据,谷歌云的市场份额为11%,落后于AWS和微软Azure的34%及21%。

同时,谷歌还与英伟达达成协议,将向谷歌云客户提供H100GPU算力,这反映了英伟达在未来一段时间内仍将保持市场领导者地位,连谷歌也离不开。


TAG:百科 | 数码 | 谷歌TPU | 英伟达GPU | A100 | H100
文章链接:https://keji.96ws.com/50764.html
提示:当前页面信息来源自互联网,仅做为信息参考,并不提供商业服务,也不提供下载与分享,本站也不为此信息做任何负责,内容或者图片如有侵权请及时联系本站,我们将在第一时间做出修改或者删除
旅游
谷歌声称其第四代TPU优于英伟达GPU,
网·人工智能4与13日谷歌日前声称,公司在AI超级计算能力方面可以胜过英伟达。但业界认为,这一消
G-SHOCK 打造全新内置 Wear
专为运动锻炼设计。「智能」技术对 G-SHOCK 来说并不陌生,该公司至少从 2016 年起就已
国产MXC500仅5小时成功点亮 性能剑
国产GPU制造商沐曦宣布其自主研发的曦云MXC500系列GPU已成功点亮,并在仅用5个小时内完成
英伟达人工智能芯片H100挂上eBay售
最近有不少网友发现,在周五的时候,至少有8枚H100芯片被挂上eBay售卖。被挂上eBay这些芯
英伟达宣布将同微软联手打造AI超级计算机
11月17日消息,据国外媒体报道,当地时间周三发布了2023财年第三财季财报的英伟达,还在官网宣
当前页面更新时间:2024-06-23
知识本站内容和图片均来自互联网,仅供读者参考,请勿转载与分享,如有内容和图片有误或者涉及侵权请及时联系本站处理。
化妆品整形问答价格减肥美妆美容心理中药咨询医院养生知识健康景点景区酒店旅行旅游问题排名品牌期货原油培训大学听力口语语法托福雅思外教英语高考学校教育母婴美食植物宠物手机数码生活百科球星主播导演明星动漫综艺电视剧电影潮牌篮球足球体育游戏穿搭时尚球鞋潮流影视娱乐网红