推理芯片初创公司Etched Inc.今日宣布继数周前完成由英伟达参与的3亿美元融资后又额外获得7亿美元投资。本轮融资由投资公司Jane Street领投Kleiner Perkins、Sequoia、Andreessen Horowitz、Tiger Global、Bain Capital Ventures等多家机构跟投。此次融资使Etched的估值翻倍有余达到210亿美元。Etched成立于2021年最初致力于设计针对特定AI模型优化的芯片此后转型为支持多种模型架构的推理加速器研发商。据该公司介绍其首款原型芯片已于今年早些时候在台湾积体电路制造公司台积电的生产线上正式下线。随后本轮领投方Jane Street也成为Etched的首位客户。Jane Street上个月已在其数据中心部署了搭载Etched芯片的机架。与此同时Etched在加利福尼亚州圣何塞总部自建了一个2兆瓦的AI集群供潜在客户测试其芯片性能。AI加速器的性能与其运行时产生的热量密切相关。在执行高负载任务时芯片运行温度越低每秒所能完成的计算量就越大。降低芯片工作电压是有效控制运行温度的重要手段之一。Etched表示其芯片内的数学运算模块即数学优化电路的工作电压不足大多数AI加速器的一半这使得该处理器能够提供比竞争对手高出数倍的FLOPs密度——FLOPs密度是衡量处理器计算性能的重要指标。Etched并未透露其低电压数学运算模块的具体实现方式。大语言模型在推理过程中主要涉及两类数学运算点积计算和矩阵乘法。这些数学运算模块应针对上述任务进行了专项优化。点积计算将两组数字合并为单一数值这类运算是Transformer架构中注意力机制的核心支撑。矩阵乘法则涉及可视化为数字表格的数学结构不仅被大语言模型的注意力机制所采用也广泛应用于其他模型组件。Etched以定制化机架的形式交付其芯片产品。该设计的一大亮点在于自研互连技术用于连接机架内的各颗芯片。据《华尔街日报》报道在某些通信任务上竞争对手的芯片需耗时4000毫秒才能完成而Etched的互连技术仅需700毫秒。此外Etched的机架设备还集成了多项自研组件包括用于将芯片热量导入冷却液循环系统的定制冷板以及用于优化机架供电的专有电压调节模块。从零开始我们花了三年时间交付了第一个机架Etched联合创始人兼首席执行官加文·乌伯蒂表示下一个将会快得多。QAQ1Etched公司的芯片有什么技术优势AEtched芯片的核心优势在于其数学运算模块的工作电压不足大多数AI加速器的一半从而大幅降低芯片运行温度使处理器能在高负载任务下提供比竞争对手高出数倍的FLOPs密度。此外Etched还自研了芯片互连技术可将某些通信任务的耗时从4000毫秒压缩至700毫秒大幅提升整体系统性能。Q2Jane Street为什么会成为Etched的首位客户并领投本轮融资AJane Street不仅领投了Etched本轮7亿美元融资还在Etched首款原型芯片下线后率先签约成为其首位客户并于上个月在自家数据中心部署了搭载Etched芯片的机架。这表明Jane Street对Etched技术的实际性能较为认可并愿意在早期阶段进行战略性押注。Q3Etched的芯片产品是怎么交付给客户的AEtched以定制化机架的形式交付芯片产品机架中集成了自研芯片互连技术、定制冷板以及专有电压调节模块。潜在客户可通过Etched位于加利福尼亚州圣何塞总部的2兆瓦AI集群提前测试芯片性能。