在人工智能的算力竞赛中,云端训练虽然是基石,但真正的智能化体验往往爆发在边沿侧和端侧,也就是在你我的手机里、工厂的产线上、都会的监控摄像头中。怎样让AI推理在边沿端实现低时延、高能效、低本钱的落地应用,成为了行业亟待突破的“最后一公里”难题。
为相识决这一难题,尊龙凯时智能通过子公司曜腾投资参股杭州元川微科技有限公司,深度结构AI推理芯片领域,瞄准边沿及端侧推理这一“最后一公里”的难题。这一战略行动标记着尊龙凯时全场景AI算力的生态延伸。
关于元川微
杭州元川微科技有限公司专注于AI推理算力立异,通过回归AI推理的第一性原理,聚焦边端智能场景,是海内领先的基于LPU架构的算力芯片科技公司;依托自研的硬数据流架构与全资源编译器等焦点手艺,推出了面向大模子、多模态和端侧应用场景的Mountain(算力)、River(Agent)两大系列LPU+产品,显著降低安排重漂后与总体拥有本钱(TCO),精准知足推理应用对确定性超低时延、高算力、高能效与低本钱的焦点需求。
元川微汇聚了业内顶尖的芯片、编译器与AI算法人才,构建了一支兼具手艺深度与工程落地能力的焦点团队。手艺团队拥有平均凌驾15年的芯片研发履历,曾主导多款高性能芯片的设计与交付,具备深挚的系统架构与工程实现功底,对大模子推理的底层需求有深刻明确。另外,其团队成员能力可笼罩模子算法、芯片设计、软件设计及全栈验证等要害环节,形成“算法-架构-芯片-系统”一体化研发能力,确保从理论立异到产品落地的高效闭环。依附强盛的手艺配景与富厚的工业履历,元川微在推理芯片领域具备突出的手艺领先优势与快速迭代能力。
什么是LPU?
作为专为推理设计的ASIC(为简单使命量身定做的芯片),LPU(Language Processing Unit,语言处置惩罚单位)与GPU保存根天性差别。GPU源于图形渲染需求,依附强盛的并行盘算能力被拓展至AI领域,支持模子训练与推理;而LPU则聚焦语言处置惩罚场景,针对文本数据的特征深度优化,在自然语言明确、文本天生等使命中实现更高效的处置惩罚——犹如为“文本引擎”量身定制的专用加速器,在语义剖析、对话交互等笔直场景中,展现出比通用盘算单位更精准的能效比与响应速率,重新界说了语言智能的硬件实现路径。
LPU接纳大容量片上SRAM架构,数据直接集成于芯片,会见延迟远低于古板GPU的“客栈-生产线”疏散模式,实现“生产线旁即客栈”的极速响应;其确定性执行架构通过“静态时序”妄想,将盘算与通讯办法准确到时钟周期,包管稳固高吞吐量。
更要害的是,LPU扬弃了古板“存算疏散”的冯诺依曼架构肩负,犹如专为推理定制的“F1赛车”,在低时延、高吞吐、低本钱、高能效四大维度形成综合优势,成为大模子推理的“性能引擎”。


