2022年,英伟达(Nvidia)推出H100芯片,它相当强大,每块4万美元。但H100推出的时间似乎相当糟糕,当时企业正在绞尽脑汁削减成本,美国通胀也呈无法遏制之势。2022年11月,ChatGPT悄然到来,一切变了。
ChatGPT成为英伟达的转折点
英伟达CEO黄仁勋说:“去年我们的处境本来很糟糕,突然就逆转了。”OpenAI成了转折点,它创造了疯狂的需求。
ChatGPT到底能带来多大影响?我们现在还不能明确知晓。不过在生成式AI浪潮之下,许多科技巨头和AI公司抢购H100,黄仁勋称它是第一款专为生成式AI设计的芯片。
不久前英伟达公布季度财报展望,预计截止7月底的3个月里英伟达营收将达到110亿美元,比华尔街预期高出50%,主要是数据中心采购增加、AI芯片需求旺盛。
财报展望公布后英伟达市值一天之内增加1840亿美元,总市值接近1万亿美元。很明显,英伟达成了生成式AI热潮的第一批赢家。
黄仁勋透露,在ChatGPT问世之前几周英伟达刚刚开始大规模量产H100芯片。对于未来,黄仁勋充满信心,称英伟达会继续与台积电合作,增加H100产能,以满足云计算供应商的需求。
H100芯片是地球上最稀缺的资源
CoreWeave是一家创业公司,它专注于AI云计算基础设施开发。年初时CoreWeave拿到了H100芯片,公司创始人、首席策略官Brannin McBee说:“H100成了这个星球上最稀缺的工程资源。”
有些企业需要训练海量数据,它们订购了几千块H100芯片,但等待时间居然长达6个月。一些企业担心H100可能会缺货。马斯克创建的AI公司X.ai也订购了一批英伟达芯片,不久前马斯克在公开场合表示,现在GPU比“毒-品”还难搞到,他还开玩笑说在旧金山买到“毒-品”一点也不难。
马斯克感叹:“现在的计算成本已经是天文数字,要想开发生成式AI系统,服务器硬件投入最少需要2.5亿美元。”
H100集成800亿个晶体管,相当于iPhone处理器的5倍。2020年时英伟达推出A100芯片,H100的价格是A100的两倍,但它的性能至少好三倍。
Stability AI开发了Stable Diffusion图形生成AI服务,公司联合创始人Emad Mostaque说:“一直以来AI模型创作者被扩展问题困扰,H100可以解决这一问题。这很重要,因为它可以让我们更快地训练更大的模型,现状正在从研究问题转移到工程问题。”
英伟达的软件创新也不容忽视
英伟达能在AI领域取得突破,硅基芯片固然重要,但最重要的可能还要软件创新。
2006年英伟达开发了Cuda软件,有了Cuda之后GPU可以更改用途,变成各种负载的加速器。2021年英伟达高管Ian Buck说:“AI找到了我们。”当时一些研究人员意识到GPU特别适合神经网络计算。
各种不同的AI框架纷至沓来,为了响应变化,英伟达聘请的软件工程师比硬件工程师还要多。H100是基于Hopper架构开发的,它专为“Transformer”作了优化,而Transformer是AI预训练领域最常使用的编程框架之一。英伟达与AI研究人员密切合作,所以它能快速发现Transformer的出现,然后及时更新软件去匹配趋势。
投资公司Air Street Capital普通合伙人Nathan Benaich说:“相比其它人,很明显英伟达提前看到了趋势,它快速实现了GPU可编程化。英伟达发现了机会,然后大胆下注,始终领先于对手。”
Benaich认为英伟达比竞争对手领先2年,不过他同时也说:“无论是在硬件还是软件领域,英伟达的领先并非无懈可击。”
Stability AI公司高管Mostaque持相同看法,他说:“谷歌、英特尔及其它公司的下一代芯片正在追上来,随着软件的标准化,Cuba不再是英伟达的护城河。”
英伟达是半成熟AI市场的大赢家
一些AI专家认为,华尔街追捧英伟达似乎有些过度乐观。不过芯片咨询公司D2D Advisory的创始人Jay Goldberg说,就目前来看,半成熟的AI市场仍然是赢家通吃市场,英伟达正是那个赢家。
无数人看好英伟达,Gartner分析师Alan Priestley说:“它是技术领先玩家,支撑着AI这种新事物的发展。”TechInsights分析师Dan Hutcheson则说:“英伟达之于AI,如同英特尔之于PC。”
ChatGPT将1万块英伟达GPU组合成超级电脑,开发生成式AI。在深度学习GPU市场,英伟达占有95%的市场。现在几乎没有其它公司的芯片能取代英伟达AI芯片,现在它的地位十分稳固,但未来很难说。
英伟达已经被人盯上
TIRIAS Research分析师 Kevin Krewell说:“英伟达已经被人盯上,所有人都想打倒它。”英特尔和AMD是CPU霸主,它们也在开发AI GPU。谷歌有自己的TPU,它不只用于搜索,也可以用于深度学习。亚马逊拥有自己的定制AI训练芯片。
除了科技巨头,还有一批创业公司也在拼命追赶,比如Cerebras、SambaNova Systems和Habana(已经被英特尔收购),它们也想开发出更好的、可以替代AI GPU的新产品。
Graphcore是一家英国AI芯片创业公司,它将自己开发的芯片叫IPU(智能处理单元),它还宣称自己的芯片相比GPU拥有更强的计算力、价格更便宜。Graphcore成立于2016年,已经融资7亿美元。
一些分析师认为,英伟达最新季报向我们暗示,生成式AI可能会成为下一个重要增长点。Hargreaves Lansdown分析师Derren Nathan说:“我们现在只是看到了冰山一角。生成式AI有可能会成为科技史转折点,就像当年的内燃机引擎或者互联网一样。”
当然,面对热潮,面对追捧,部分分析师也提醒要保持冷静。毕竟,谁能保证里面有没有大泡沫呢?(小刀)