近日,工业和信息化部办公厅印发《关于公布算力强基揭榜行动入围名单的通知》,北京经济技术开发区(北京亦庄)企业北京后摩智能科技有限公司(以下简称“后摩智能”)申报的“高能效比边端侧大模型推理加速处理器”成功入围。这标志着后摩智能在智能算力领域创新实力获“国家级”权威认可,也彰显了经开区在构建全域人工智能之城、推动国产高性能芯片技术攻关再次取得重要突破。
算力强基揭榜行动是工业和信息化部为夯实算力网络发展底座,加快创新技术和产品应用,推动算力网络 “点、链、网、面” 体系化发展的重要举措。该行动面向算力网络的计算、存储、网络、应用、绿色、安全等六大重点方向,旨在发掘一批掌握关键核心技术、具备较强创新能力的企事业单位,突破一批标志性技术产品和方案。
后摩智能此次入围的“高能效比边端侧大模型推理加速处理器”,精准瞄准了当前人工智能大模型在边端设备应用场景中对高性能、低功耗算力的迫切需求,基于创新的存算一体架构,可实现显著的能效提升和推理加速,为大模型的广泛应用提供有力支持。
“该处理器基于后摩智能自主研发的数字存内计算技术,采用非冯・诺依曼架构,有效突破了传统芯片设计面临的‘存储墙’及‘功耗墙’瓶颈,实现计算单元与存储单元的集成,在存储单元内完成部分或全部运算。”后摩智能相关负责人进一步介绍道,“基于自主研发的存算一体创新IP,该处理器可满足多精度、大算力、高有效带宽等需求,计算效率大幅提升:单位面积内所能支持的算力大小较传统架构实现3倍以上提升,且在相同算力下,AI部分功耗更可降低1—2个数量级。”
在应用层面,该处理器可广泛应用于PC类(笔记本、台式电脑)移动设备、边缘计算盒子、信创一体机等边端计算领域。其关键优势在于无需联网即可本地部署应用大模型,在充分确保数据隐私安全的同时,高效满足本地长文本摘要、文案创作、知识库构建、数字人互动及多模态等多元化需求,有力推动工业、信创、消费等领域的智能化升级和规模化应用。
作为国内存算一体AI芯片领域的先锋企业,后摩智能于2020年注册成立,致力于通过颠覆式创新技术推动AI算力普惠。展望未来,该负责人表示,后摩智能将进一步加大技术创新力度,充分发挥存算一体架构天然的高能效、低成本优势,瞄准大模型在智能终端推理应用中面临的算力瓶颈、带宽瓶颈和成本问题,着力推动实现全国产化人工智能芯片在智能终端等领域的规模化应用,为北京亦庄建成全域人工智能之城提供有力支撑。