matx 融资5 亿美元打造llm 芯片

由前谷歌TPU工程师创办的这家公司MatX把首轮融资打到了5亿美元。它的目标是做一块吞吐量很高、延迟很低的芯片。这个公司自己说,他们正在研发一种叫MatX One的处理器。这款芯片用上了可分割的脉动阵列结构,所以它既有效率,又很灵活。它跟用SRAM设计的低延迟和HBM方案的长上下文结合起来。这样一来,MatX One据说能把LLM的吞吐量提升到业界领先的水平,延迟表现也不错,给训练、预填充、推理解码还有强化学习等不同的场景用。 就在这次融资中,MatX吸引了世芯AIchip、美满Marvell和其他很多投资者的加入。MatX的理念是要把LLM这一块的工作负载做得更好。他们现在拿到了一笔5亿美元的B轮融资(折合人民币大概34.45亿)。 IT之家告诉大家,MatX专注于LLM相关的工作。他们用MatX One这个产品来解决LLM使用成本高的问题。这个芯片的结构兼顾了能效和灵活性。它的低延迟得益于SRAM设计,而HBM方案则带来了长上下文支持。MatX One就把这两者融合在了一起。 世芯AIchip和美满Marvell都参与了这次融资。这两家企业都看好MatX的发展前景。这个公司正在努力打造一款兼具高效能和灵活性的芯片。它用可分割的脉动阵列来实现这一目标。虽然具体细节还没公开,但据说这款芯片能大幅降低大模型使用成本。 总之,MatX通过这轮融资把盘子做得很大。他们把目标定在打造一款行业领先的LLM芯片上。虽然名字是One,但实际上这是一个系列产品的开端。他们希望通过这个产品让更多人用得起大型语言模型。