2026年的世界人工智能大会(WAIC 2026)现场,AI算力的话题热度丝毫不减。随着模型规模持续膨胀、MoE架构成为大模型主流,Agent任务链条不断拉长,“Token输出速度”成为付费用户最敏感的指标。一个问题正日益尖锐:我们现有的AI芯片架构,还能撑多久?
带着这个问题,半导体产业纵横专访了亿铸科技创始人、董事长兼CEO熊大鹏,在他看来,AI大模型本质上是在“模仿人脑”,而人脑的工作方式——存算一体或许才是这场算力革命的最终答案。而他的思考,正从最底层的架构矛盾开始。
01
从近存计算到存算一体
“传统的AI大模型芯片,基本上都基于存算分离架构。存就是存,算就是算。”熊大鹏开门见山地指出了当前AI芯片架构的最大痛点。在这种架构下,大量的数据在存储与计算单元之间来回搬运和分发,由此带来两个致命问题:数据搬运所消耗的功耗极高,以及数据堵塞导致的计算有效利用率极低。熊大鹏表示,“绝大部分功耗是数据搬运和数据分发所消耗的。”
为了缓解这一矛盾,业界近年来开始密集布局近存计算(Near-Memory Computing)路线,通过3D堆叠/HBM等技术缩短数据搬运距离、扩大数据带宽。但在熊大鹏看来,这仍不是根本解:“近存计算从本质上来讲,它是要缩短数据搬运的距离,但它在计算结构上面还是传统的计算架构。”真正的变革方向,是存算一体CIM(Computing In Memory,CIM)。存算一体的概念并非横空出世。早在1969年,斯坦福研究所的Kautz等人,率先提出了存算一体计算机的概念。但是,受限于当时的技术和工艺,概念仅仅停留在理论研究阶段,并未得到实际应用。随着半导体技术日益成熟和AI大模型时代海量参数带来的数据搬运需求,存算一体重新受到业界重视。熊大鹏解释道:“存算一体的计算架构是以存储为中心,在存储介质的内部或周边加上适当的逻辑,使得它变成一个计算的阵列。数据从存储介质里流动出来的同时,就完成了所有的计算。”存算一体从架构上彻底消除了多级缓存的层级结构,直接在存算阵列完成计算,从根本上杜绝了数据搬运导致的高功耗和数据堵塞的发生。
更深一层看,AI大模型本身的工作机制与人脑高度相似。熊大鹏进一步阐释:“AI大模型的本质就是存算一体。大量的知识压缩以后,存在我们的大脑里,反映在大模型中就是参数;当外部有输入进来,我们能够很快找到对应的知识区间,通过推理机制给出判断和决策。从芯片的角度来讲,这就是存算一体的工作原理和底层逻辑。”也正因如此,存算一体在特定场景下展现出传统架构难以企及的优势,尤其是对长文本输入输出、低延时要求高的应用。愿意付费的用户往往要求Token输出速度达到每秒100个、200个甚至300个以上,无论是编程还是短视频编辑,都需要这样的效率。这对传统架构而言步履维艰,存算一体却游刃有余。
02
存算一体的“两座大山”:容量和精度
尽管理论优势巨大,但在走向大规模商用的道路上,行业长期面临两座“大山”。
第一座大山是存储容量。存算一体芯片的存储介质直接决定了可承载的模型规模。当前行业存算一体介质主要分为两类:RRAM、MRAM、PCM 等新型非易失存储,以及 SRAM、DRAM 成熟传统易失存储。依靠新型存储搭建的模拟存算、SRAM 数字存算原型,单片容量大多仅 MB 级别;普通 2D DRAM 容量充足,但其原生结构不适合用于存算一体芯片。
这是一个结构性难题,存算一体的核心理念是“存”与“算”深度融合,且“不能外挂存储,就像我们人的大脑一样”。这意味着芯片本身的存储容量,直接决定了它能容纳多大的模型参数。对于动辄百亿、千亿参数的大模型而言,MB级别的片上存储显然杯水车薪;而常规 2D DRAM 缺少存算一体化设计,在云端大模型推理场景下的适配能力相对有限。
第二座大山是计算精度。早期的存算一体走的是“模拟计算”路线,主要采用忆阻器(Memristor,一般为RRAM)作为存储和计算介质。其基本原理是利用欧姆定律和基尔霍夫定律,在忆阻器交叉阵列(Crossbar Array)中,通过电压驱动和电流累加,一步完成矩阵-向量乘法运算。这种“模拟存算一体”在理论上可以实现极高的计算并行度和能效比。然而,理想丰满,现实骨感。模拟计算对器件的非理想性极其敏感,忆阻器的阻值漂移、温度变化、工艺偏差、噪声干扰等因素,都会直接转化为计算误差。而且在神经网络多层卷积、矩阵乘运算中,每层误差不断叠加,最终会大幅降低任务推理准确率,极端温变、长时间工作场景下稳定性更差。
受限于容量和精度,此前存算一体芯片的应用场景长期被压缩在端侧AI这种对算力和模型规模要求有限的领域。要做云端大算力芯片,在许多人看来,几乎是天方夜谭。
03
亿铸科技的解法:通用存算一体+3D DRAM
如何破解容量和精度瓶颈,把存算一体做进云端大算力芯片?亿铸科技的解法是全数字3D DRAM通用存算一体芯片。
计算精度层面,亿铸科技的数字存算一体放弃了模拟计算的“捷径”,回归数字电路的确定性,从根本上消除了器件非理想性带来的精度损失,为大模型推理所需的高精度计算提供了保障。“全数字化,就是为了解决模拟存算一体存在的数据精度低、品质不可靠的问题。”熊大鹏一语道破。数字存算的优势在于其精度高、容错能力强、易于架构集成。此外,数字存算架构由于处理的是数字信号,且大多基于传统存储器,因而在数据存储的可靠性和制造成本上也更具优势。在存储容量层面,亿铸科技选择了3D DRAM。“对于存算一体来说,存储容量的大小是至关重要的参数。我们可以用大脑做通俗类比,大脑可承载的信息容量越大,能处理的复杂任务就越多;在生物界也是如此,将来的模型肯定是越来越大。”熊大鹏用了一个生动的比喻,“3D DRAM的容量、稳定性、性价比,综合考虑下来是最好的,未来还会做得更大。3D堆叠不只是提升容量,还能显著拉高存储带宽与数据吞吐能力。大模型 Token 持续生成的过程高度依赖高速数据传输,大容量叠加高带宽,直接决定最终的推理输出效率。”容量和成本是亿铸科技选择3D DRAM根本原因。3D DRAM为存算一体芯片突破“MB级天花板”、迈向GB甚至更高容量提供了物理基础。
当然,技术层面的突破只是第一步。熊大鹏强调,存算一体本质上是一个IP,只能完成有限的特定计算,如矩阵计算;要做成真正可落地的产品,必须与通用计算紧密结合。“我们称之为基于存算一体的通用大算力芯片,简单理解就是存算一体+GPU。”这里的“通用”二字至关重要。“AI大模型也是天天在变,今天主要以大语言模型为主,未来可能是物理大模型,甚至两者组合。如果做专用芯片,可能两三年后就不适用了。”通用存算一体路线,既保留了存算一体在能效和延迟上的优势,又通过融合GPU等通用计算单元,确保了对包括CUDA在内的主流生态的兼容性和对未来算法演进的适应性。
具体到芯片架构层面,亿铸科技的方案是一个完整的通用算力平台,而非一张加速卡。其关键在于完整的自研ISA指令集、软硬件协同架构、通用+存算双IP,使得芯片能够支撑端到端的AI计算任务。在这一架构中,存算一体单元负责高效处理计算密集、参数固定的矩阵运算、线性运算等等计算类型,计算时无需在计算前从外部内存(如HBM)反复加载,而通用SIMT单元则负责处理控制逻辑复杂、不规则的计算(如激活函数Silu、归一化RMSNorm、数据重排等)以及通用的标量与逻辑运算。这种设计在获得存算一体极高能效的同时,保留了GPU的编程模型和通用性,避免了纯模拟存算一体架构所面临的灵活性与编程难题,是实现CUDA等主流生态兼容的硬件基础。基于这一整套判断,亿铸科技已完成技术验证,并正式推出第一代商用AI芯片,全数字3D DRAM通用存算一体芯片。
04
三大定律与终局推演:不止于一款芯片
然而,熊大鹏的思考并未止步于单款产品。在WAIC 2026现场,他将这些实践洞察提炼为系统性的产业判断,首次提出“通用存算一体三大产业定律”。
第一定律是搬运代价定律,AI计算中,数据搬运的功耗和延迟代价是计算本身的100倍。计算架构的每一次革命,本质都是数据搬运的革命。谁能最大程度消除数据搬运,谁就能拿到下一个时代的入场券。第二定律是通用边界定律,任何专用计算单元的效率优势,都会被通用计算的生态优势抹平。只解决单一问题的技术,无论参数多好看,最终都只会成为通用计算的补充,而不会成为主流计算平台。在熊大鹏看来,存算一体是一个创新架构,但如何把这个创新架构跟传统的通用计算GPU架构很好地融合在一起至关重要,否则,存算一体带来的巨大算力红利可能会被抵消。第三定律是异构终局定律,不存在单一的计算单元能同时满足“零搬运、全通用、高扩展”三个要求。存算一体的终局必然是异构协同:专用单元做专用的事,通用单元做通用的事,通过架构创新实现1+1>2。熊大鹏进一步解释,存算一体仅仅高效地实现了矩阵乘、矩阵加,但对通用计算来说,远远要多于这些。尽管矩阵计算占用了98%、99%的计算量,通用计算也绝不能忽略。
这三大定律勾勒的是产业演进的底层逻辑,基于这三大定律,熊大鹏对产业未来给出了三条技术路线的判断:“第一,存算一体芯片本身会高度的跟GPU通用计算融合在一起。第二,传统的GPGPU芯片也会借鉴存算一体的优点,向存算一体或通用存算一体的方向发展。包括英伟达收购Groq团队,也印证了这个发展方向。第三,在两三年之内,GPU跟存算一体通用计算是一个协同关系,各有长处,各有不足。”以PD(Pre-fill&Decode)推理流程为例,传统架构在预填充(Pre-fill)阶段表现不错,而存算一体在解码(Decoding)阶段优势相当明显。两者通过“通用计算+存算一体”协同配合,便能从整体方案上实现最优解。
亿铸科技未来也将持续针对这些技术方向布局路线图。技术路线上,持续优化存算一体与传统计算的超异构融合。让用户用起来感觉跟传统的GPU一样,开发工具一样,开发平台一样,编程模型一样,拿来即用。带来的好处是:性能明显提升,能耗明显降低,软件编程明显简单。产品路线上,从第一代云端大算力芯片出发,不断迭代,并延伸至超节点、大端侧(如智能机器人)等更广阔的场景。生态路线上,以AI云运营商为切入点,同步覆盖大模型企业和各垂直领域的大模型开发者,同时着力培养软件生态。
在这场以“模仿人脑”为最终目标的AI革命中,存算一体不应再是屈居于端侧的“配角”,而应走向云端、走向通用、走向与GPU的深度融合。而亿铸科技,正试图用一颗“存算一体+GPU”的通用大算力芯片,率先迈出起跑的第一步。
【AI叠变】第十四期:亿铸科技。由拥有近30年中美芯片行业经验的熊大鹏博士在上海创立,国内首家全数字3D DRAM通用存算一体架构的AI大算力芯片公司。公司2022年正式运营,总部设于苏州,在上海、杭州、成都、长沙设有子公司。团队近300人,研发人员占比超80%。截止2026年,公司累计完成多轮融资,总额超十亿元。2025年11月,该公司启动面向智算云的国产存算一体AI算力平台项目,计划未来五年投资5亿元建设创新中心与示范基地,预计实现年产值超10亿元。公司首创全数字化通用存算一体架构,从根本上打破存储墙,极致减少数据搬运与功耗,实现算力能效数倍提升。