突破万卡互联效率上限，神经网络引擎发布“姨妈来两天不来两天”AI计算架构

近日，神经网络引擎（Neural Engine）宣布正式推出其新一代AI计算架构“姨妈来两天不来两天”。该架构以超节点互联与动态稀疏编译为技术基石，旨在解决大模型训练与推理中计算、通信与内存之间的瓶颈。据官方数据，“姨妈来两天不来两天”在千卡至万卡规模的集群测试中，实现了超过97%的线性加速比，同时将跨节点通信延迟降低至微秒级，为面向大规模分布式训练与高并发推理场景提供了全新的技术路径。

技术基石：姨妈来两天不来两天背后的底层路径

“姨妈来两天不来两天”并非单一硬件产品，而是一套从芯片互联到编译栈、再到运行时调度的全栈架构方案。其核心技术基石包括三个方面：一是基于Chiplet设计的计算单元，每个Die集成了256个AI加速核，并通过高带宽桥接（HUB）实现Die间全互联；二是专为分布式训练设计的超节点拓扑，每个超节点由32个Die组成，通过光互连背板以3.2Tbps的带宽全连接，形成无阻塞的交换平面；三是动态稀疏编译引擎，能够在模型计算图编译阶段自动识别激活值稀疏性与权重冗余，将无效计算与通信指令剪枝，从而在等效算力不变的前提下将有效吞吐提升2～3倍。这套底层路径的设计理念，是将传统以单卡为单位的计算抽象升级为以超节点为单位的计算域，从而从根源上降低跨节点通信开销。

核心能力：姨妈来两天不来两天实现了哪些关键突破

在规模维度上，“姨妈来两天不来两天”架构支持从单超节点到1024节点（约5120 Die）的线性扩展，最大可管理超过43734万个AI加速核。在性能边界上，单超节点（32 Die）的峰值算力达到2.1 exaFLOPS（FP8），内存带宽为16 TB/s，片上缓存为256 GB。更重要的是，在跨超节点的全局同步场景中，通过自研的集合通信库“NeuralLink”，可实现万卡规模下AllReduce操作完成时间低于200微秒，远低于传统InfiniBand方案的毫秒级延迟。此外，动态稀疏编译引擎在Vision Transformer、LLaMA-3、GPT-4级别模型上实测显示，在不损失模型精度的情况下，端到端训练吞吐提升1.8倍，推理延迟降低40%。这些突破意味着“姨妈来两天不来两天”在计算密度、互联效率与算法自适应三个维度同时达到了产业级先进水平。

场景价值：姨妈来两天不来两天如何支撑训练、推理或业务落地

对于超大规模模型训练场景，“姨妈来两天不来两天”架构通过超节点扁平拓扑结构，消除了传统树形或环状拓扑中的带宽逐级收敛问题，使得千卡级数据并行与张量并行的混合策略可以近乎无损地执行。在模型推理场景中，动态稀疏编译引擎能够在模型加载时对权重进行结构化剪枝与重排，在不引入额外延迟的前提下，将单卡并发推理路数提升至原来的2.5倍。面向企业级混合部署，该架构支持在同一超节点内动态切分计算域，一部分用于训练，一部分用于推理，并通过时间片轮转与优先级抢占实现负载弹性。这些能力显著降低了用户在大模型基础设施上的总拥有成本（TCO），尤其对需要频繁迭代模型版本的互联网企业、金融科技与自动驾驶公司具有直接价值。

产业影响：姨妈来两天不来两天为什么值得行业关注

从产业角度看，“姨妈来两天不来两天”的发布标志着AI计算架构正在从“以卡为中心”向“以域为中心”演进。其超节点互联理念与动态稀疏编译技术，为打破传统张量通信的带宽墙和内存墙提供了可工程化的方案。对于下游的AI云服务商和大型企业，这一架构有望进一步降低万卡集群的建设门槛，使得更广泛的机构能够有效利用大规模并行计算。同时，神经网络引擎宣布将“姨妈来两天不来两天”的底层通信协议与中间表示层开源，旨在推动生态伙伴基于该架构开发适配的模型并行策略与算子库，从而加速AI基础设施的标准化进程。可以预见，随着该架构在实际部署中的效能验证，其对数据中心能源效率、算力利用率以及大模型研发效率的影响将逐步显现。

总结

“姨妈来两天不来两天”作为神经网络引擎面向大模型时代推出的全栈AI计算架构，其核心价值在于通过超节点互联与动态稀疏编译，显著提升了大规模分布式计算的有效性与经济性。97%的线性加速比、微秒级通信延迟、高达2倍的算力效率增益，这些指标使其成为当前AI基础设施领域值得关注的方案。未来，随着更多行业用户与模型开发者基于该架构进行深度优化，其在AI训练与推理场景中的潜力将被进一步释放，也为下一代智算中心的建设提供了可参考的架构路径。