半导体行业在经历了几个月的需求下滑之后,有望在2023年晚些时候卷土重来,与此同时,围绕生成式AI的炒作,重新燃起了人们对专用处理器和其他半导体技术的兴趣,这些技术可以更快速、更高效地运行此类工作负载。
Nvidia是AI芯片和相关技术需求爆炸式增长的最大受益者。今年5月份Nvidia表示,预计第二季度收入将比去年同期增长64%,主要是受到了ChatGPT等生成式AI技术的驱动。
尽管许多公司正在转向Nvidia来推动AI工作负载,但这家芯片设计公司显然一直在经历数据中心GPU的短缺,再加上测试新芯片架构以优化性能和效率的愿景,重新引发了人们对竞争技术的兴趣,包括由Lightmatter和Tenstorrent等半导体初创公司设计的技术。
得益于AI计算新浪潮的不仅仅是芯片设计初创公司,还有其他半导体初创公司致力于相关或基础技术的研究,这些技术可以改善未来AI的计算方式。
Ayar Labs和Eliyan等初创公司正在研究新的方法来构建芯片,从而有利于AI和许多其他工作负载,还有Astera Labs和Pliops等公司正致力于解决高性能计算系统其他方面的问题,例如存储和连接等。
半导体初创公司不仅仅是在AI领域寻找机会,EdgeQ正在凭借自己的“芯片基站”与电信芯片领域的现有企业展开竞争。
下面就让我们来看看2023年到目前为止最热门的这10家公司,以及他们近期所取得的成就。
Astera Labs
创始人、首席执行官:Jitendra Mohan
Astera Labs想要抓住新一波服务器的机会进入市场,推出基于芯片的产品,这些产品利用Compute Express Link连接标准,有助于打造更快速、更高效的服务器,同时具有更大的灵活性和更低的成本。
去年11月,这家总部位于美国加利福尼亚州圣克拉拉的初创公司宣布,在由Fidelity Management and Research领投、Intel Capital和其他投资方参与的D轮融资中获得了1.5亿美元的资金,使得估值接近32亿美元。当公司看到来自客户的“强劲”吸引力时,资金就到位了。
Astera的连接产品组合包括Leo Memory Connectivity Platform,据称这是“业界首款”内存控制器,支持内存扩展、内存池和内存共享功能,有助于提高服务器性能并降低成本。
Axelera AI
联合创始人、首席执行官:Fabrizio Del Maffeo
Axelera AI希望通过“全球最强大的、最先进的”基于芯片的产品击败Nvidia,这些产品可以在边缘设备上运行AI应用。
这家总部位于荷兰的初创公司在今年5月宣布,已经在A轮融资中获得了“超额认购”,总融资金额达到5000万美元。
在宣布该轮融资之前,Axelera与边缘设备供应商Advantech建立了战略合作伙伴关系,推出了下一代Metis AI硬件和软件平台,并在过去18个月内流片了两款AI芯片。
Axelera表示,他们的扩展卡和模块是由Metis AIPU提供支持,可以实现“更快、更易于使用的AI加速,同时最大限度地降低功耗和成本”。
Ayar Labs
首席执行官:Charlie Wuischpard
Ayar Labs相信,他们可以利用硅光子技术开创高性能芯片的新时代,该技术使用光而不是电通过芯片传输数据。
这家总部位于美国加利福尼亚州圣克拉拉的初创公司在今年5月宣布,已经通过C轮融资获得了2500万美元资金,总融资金额达到1.55亿美元,投资方包括Nvidia、Intel Capital、HPE的风险投资部门以及GlobalFoundries。
在Ayar Labs实现了多个里程碑之后,资金也就到位了,其中包括演示业界首款可提供4 Tbps连接速度的光学产品、与美国国防部合作使用其光学I/O小芯片和激光器制作军事应用原型,以及与Nvidia合作开发带有光纤I/O的AI芯片。
EdgeQ
联合创始人、首席执行官:Vinay Ravuri
EdgeQ希望通过自己针对一系列网络应用的“芯片基站”产品来取代英特尔等半导体巨头和爱立信等电信巨头的芯片制造能力。
这家总部位于美国加利福尼亚州圣克拉拉的初创公司在今年5月透露,已经在B轮融资中获得7500万美元,资金将用于投资下一代芯片技术的开发,这种技术可作为公共和私有5G和4G蜂窝网络的基础。
今年,网络和电信供应商开始推出将使用EdgeQ芯片的新产品,其中包括Wistron表示已经使用EdgeQ的芯片开发出了“首款软件定义的多模4G/5G小型基站”。EdgeQ公司还公布了MaxLinear的4G/5G小型蜂窝参考设计,以及Actiontec的4G/5G小型蜂窝架构平台。
其他支持EdgeQ的厂商还包括:沃达丰,计划将EdgeQ芯片用于下一代软件可编程5G ORAN平台;网络软件供应商Mavenir,计划使用EdgeQ的芯片开发4G/5G小型基站产品。
Eliyan
创始人、首席执行官:Ramin Farjadrad
Eliyan认为,他们的小芯片互连产品可以超越英特尔和台积电等芯片巨头的先进封装技术,从而实现下一波高性能芯片架构。
这家总部位于美国加利福尼亚州圣克拉拉的初创公司在去年11月透露,已经在A轮融资中获得了来自Intel Capital和Micron Capital的4000万美元,用于开发和提高NuLink芯片间互连技术的产量。
今年5月,Eliyan公司推出了NuLink PHY技术,该技术采用台积电的标准5nm工艺制造,可在小芯片之间高速传输数据,而避免了先进封装技术的缺点。
Lightmatter
联合创始人、首席执行官:Nicholas Harris
Lightmatter表示,计划利用其基于光子芯片的技术“将最先进的人工智能和高性能计算工作负载性能及节能带到一个新的水平上”。
这家总部位于波士顿的初创公司在今年5月宣布,已经在C轮融资中获得了来自HPE和Google等多家投资方的1.54亿美元,资金将用于把Lightmatter的光子技术部署在云服务提供商、半导体公司和企业那里。
Lightmatter的产品组合包括Envise 4S,一款4U服务器,配备有16个Lightmatter Envise芯片,功率为3千瓦。Lightmatter公司表示,机架级Envise推理系统可以运行BERT-Base SQuAD大型语言模型,每秒推理次数是Nvidia DGX A100系统的3倍,每秒每瓦的推理次数是Nvidia DGX A100系统的8倍。
Pliops
创始人、首席执行官:Uri Beitler
Pliops公司表示,他们的Extreme Data Processor“克服了存储效率低下的问题,大幅提高了性能,并大幅降低了数据密集型应用的整体基础设施成本”。
这家总部位于美国加利福尼亚州圣何塞的初创公司于去年8月宣布在D轮融资中获得1亿美元,投资方包括SK Hynix、Intel Capital、Nvidia、AMD和西部数据。
今年1月,Pliops推出了XDP Data Services Platform,称其为“无缝部署的转型方法,可优化数据基础设施并加速现代工作负载,同时[总拥有成本]降低50%”。
据称,Pliops的Extreme Data Processor是这一新平台的基础,它将“关键数据和存储技术整合到一个设备中”,从而使优势成倍增加,与传统RAID产品,性能提高10倍、可靠性提高5倍、容量提高6倍,总拥有成本降低80%。
SiMa.ai
创始人、首席执行官:Krishna Rangasayee
SiMa.ai公司表示,他们的边缘人工智能技术将“令人惊叹的性能”和“令人难以置信的能效”与“漂亮简单的按钮式软件体验”结合在了一起。
今年6月,这家总部位于美国加利福尼亚州圣何塞的初创公司表示,他们面向嵌入式边缘市场的片上机器学习系统芯片已经进入量产,支持两个基于PCIe的生产板和用于低代码机器学习开发的Palette软件。此外,SiMa.ai公司还融资了1300万美元资金,总融资金额达到2亿美元。
SiMa.ai公司表示,根据提交给MLPerf的结果,他们的MLSoC在功耗和延迟方面击败了Nvidia的Jetson AGX Orin片上系统,在推理方面具有“更强”的每秒每瓦帧数性能(MLPerf是一套用于训练和推理的机器学习基准测试)。
Tenstorrent
首席执行官:Jim Keller
Tenstorrent表示,他们正在利用机器学习加速器芯片、RISC-V CPU技术和AICloud计算服务构建“人工智能硬件的未来”。
这家总部位于多伦多的初创公司在今年5月表示,已经与LG展开合作,构建新一代AI和RISC-V小芯片,有可能为这家韩国电子巨头未来的高端电视和汽车产品提供动力。两家公司还将合作把LG的视频编解码技术集成到Tenstorrent未来的数据中心产品中。
这一消息是在Tenstorrent任命公司领导团队关键职位之后发布的,其中包括担任首席运营官的前Google和SiFive高管Keith Witek,担任操作系统和基础设施软件副总裁的前Meta基础设施硬件负责人Olof Johansson,以及担任董事会成员的前Intel GPU负责人Raja Koduri。
Ventana Micro Systems
创始人、董事长、总裁、首席执行官:Balaji Baktha
Ventana Micro Systems希望把数据中心和边缘市场从x86和Arm处理器转移到具有高性能CPU设计的开放标准RISC-V芯片架构上。
这家总部位于美国加利福尼亚州库比蒂诺的初创公司在去年12月推出了Veyron V1芯片,该芯片号称是“性能最高”的RISC-V 芯片,频率为3.6GHz。Ventana Micro Systems公司表示,该芯片也是“首款提供单线程性能的RISC-V处理器,可以与数据中心、汽车、5G、人工智能和客户端应用最新的现有处理器相媲美。”Ventana表示,Veyron V1还具有“相比竞争对手架构最高的单插槽性能”。
Ventana Micro Systems公司在2022年初获得了来自投资方的5500万美元,之后推出了这款处理器,并预计以小芯片的形式提供,其他公司可以将其集成到芯片封装中。