光本位科技搞光电融合计算卡

话说2022年那会儿,AI这块儿要算力,需求那是蹭蹭往上窜,结果传统架构这道坎儿实在跨不过去。搞光电融合计算卡的光本位智能科技(上海)有限公司,瞅准了材料这个突破口。他们的联合创始人熊胤江拉着程唐盛等人组建了团队,就在上海张江科学城那边的模力社区搞研究。这公司的团队正在实验室里测数据,旁边精密仪器上的灯闪个不停。那块搭载了128×128矩阵的计算卡正在高速运转,这可是国内首个相变材料光电融合的东西。 周元英和记者李均当时在现场看到了这一幕。熊胤江跟记者讲,他们拿到了国内大模型公司的单子,已经在金融大模型上用起来了。这个成果不光填补了国内的空白,更是在全球范围内把这种计算卡用在了大模型场景上。 国际能源署在那份《能源与人工智能》报告里说得很明白,到了2030年,全球数据中心耗电得有945太瓦时,快赶上日本全年的用电了。李均和周元英还提到了日本那边的情况。 大家都在找办法解决功耗墙和内存墙的问题。传统电子计算卡想提高算力太难了,所以就得换个底层逻辑。“我在读材料科学博士的时候就觉得相变材料能行。”程唐盛说,“我们利用这种材料把存储单元和计算单元合二为一,AI模型的参数能直接存到卡里面去。”这就省去了频繁读写外部存储的麻烦,把计算延迟给降到了十分之一。 这卡的光计算核心还有个特别厉害的地方,就是静态功耗是零。不像传统的AI卡一直得供电才能转,它只要给个驱动就能干活。模型权重加载的时候根本不用耗电,刷新参数时也特别省。 在扩展性上,这卡有PCIe接口还能自定义互联接口,插上去就能用。“以后互联网巨头、大模型公司、还有太空算力提供商这些做云侧推理的客户应该会用得上。”熊胤江是这么打算的。 为了进一步提升性能,光本位科技最近开始琢磨用玻璃来代替硅做衬底。“我们希望让光参与到整个计算架构里。”熊胤江表示,“最终构建一个‘光电融合、以光为主’的集群生态。”这就是他们想要的“用玻璃替代硅、构建全光计算生态”的愿景。