爱芯元智发布 AX8860 大算力 AI 芯片：面向边缘大模型，256 TOPS 算力与多形态落地
据 IT之家 10 月 13 日消息，爱芯元智在 2026 中国国际工业博览会上正式发布 AX8860 系列大算力 AI 芯片。该系列定位为面向大模型在边缘侧、端侧部署的算力底座，核心卖点是以较低功耗和多种硬件形态承载本地推理任务。来源显示，AX8860 在性能对标 NVIDIA DGX Spark 的同时，整机价格被合作方 Sipeed 描述为“接近 DGX Spark 的一半”，这使其成为国产边缘 AI 算力市场中值得关注的新方案。
AX8860：面向边缘大模型的 256 TOPS 芯片平台
从规格看，AX8860 采用 6nm 制程，集成 16 核 Arm Cortex-A55 CPU 与爱芯元智自研 NPU，可提供 256 TOPS 混合精度算力，并标注为原生 FP4、无稀疏性。内存方面，该芯片最高可配备 128GB LPDDR5X，在 256-bit 位宽下带宽达到 273GB/s。对于本地大模型推理而言，内存容量和带宽往往决定模型可运行规模与并发体验，这也是 AX8860 被定位为边缘大模型平台的关键基础。
互联能力方面，AX8860 支持 PCIe 5.0，并提供 256Gbps 网络接口。来源显示，双芯级联可达到 512 TOPS，四芯级联宣称可实现 1024 TOPS，扩展效率约 80%。这意味着它不仅面向单机小型化设备，也可通过多芯组合覆盖推理服务器、工作站或行业专用盒子等场景。
- 算力规格：单芯 256 TOPS 混合精度算力，支持原生 FP4。
- 内存配置：最高 128GB LPDDR5X，带宽 273GB/s。
- 设备形态：覆盖专用模块、单槽 PCIe 卡、四芯单槽方案、Mini PC 与口袋 PC 规划。
- 软件生态：支持 vLLM、SGLang、PyTorch，并兼容 ONNX、Hugging Face 模型格式及 OpenAI API 服务接口。
从模块到口袋 PC，爱芯元智强调产品化落地
相比只发布芯片参数，爱芯元智此次更强调“可部署”的完整形态。来源显示，AX8860 将覆盖额定功耗 40W 的专用模块，也包括采用 Gen5x4 连接器的单槽 PCIe 卡，并配备辅助风扇。此外，公司还展示了单槽四芯方案，使用四风扇与大尺寸散热片，并由标准 8-pin 电源接口供电。
爱芯元智还同步发布了元曦模组 A256S，并展示了元曦系列推理卡和推理服务器。对企业用户来说，芯片能否快速进入现有软件栈同样重要。官方介绍称，AX8860 支持 vLLM、SGLang、PyTorch 等主流推理框架，提供模型量化、转换、编译、Profiling 与调试工具链，并支持 ONNX、Hugging Face 等模型格式。这些配套能力有助于降低从云端 GPU 推理迁移到本地 AI 设备的工程成本。
性能与价格信号：国产边缘 AI 算力开始对标小型 AI 超级计算机
在性能对比上，来源提到 AX8860 在 Qwen 27B 模型上，prefill 速度比 NVIDIA DGX Spark 快 25%，decode 速度快 30%。需要注意的是，不同模型、量化方式、批量大小和软件栈都会影响实际测试结果，因此这类对比更适合作为产品定位参考，而非所有场景下的绝对结论。
价格方面，Sipeed 宣称 AX8860 整机定价“接近 DGX Spark 的一半”。作为参照，DGX Spark 64GB 版本起售价为 4,999 美元，128GB 版本为 6,950 美元。若 AX8860 后续能在开发者工具、模型兼容性和长期供货上保持稳定，其性价比优势可能吸引希望在本地部署大模型推理的企业、开发者和硬件厂商。
行业解读：边缘大模型需要的不只是 TOPS
AX8860 的发布反映出一个趋势：大模型应用正在从云端集中推理，逐步扩展到工厂、机器人、智能终端、企业私有化部署等场景。对这些场景而言，低延迟、数据不出域、能耗可控和设备小型化往往比单纯追求峰值算力更重要。AX8860 通过模块、PCIe 卡、Mini PC、口袋 PC 等形态覆盖不同部署路径，正是瞄准这一市场变化。
不过，边缘 AI 芯片的竞争不只看硬件参数。真正决定 adoption 的因素还包括模型适配速度、算子覆盖、开发者文档、部署稳定性、供货能力以及生态伙伴支持。来源还提到，爱芯元智后续路线图包括算力达 500 TOPS 的 Axera 8950，以及超过 700 TOPS 的下一代 8970 芯片。如果这些规划顺利推进，国产 AI 推理硬件在端侧和边缘侧的选择将进一步丰富。
总体来看，AX8860 是爱芯元智面向大模型时代的一次重要产品升级。它试图用较高内存配置、多芯扩展能力和较完整的软件工具链，切入本地 AI 推理设备市场。对于中文 AI 产业链而言，这类产品的意义不仅在于对标海外硬件，更在于为企业构建可控、可迁移、可持续的本地算力基础设施提供新选项。