独立AI加速器，突然火起来了。
哪些厂商在布局
Ambarella（安霸）
9月15日，Ambarella（安霸）发布X7，这是该公司第一次把自己的CVflow AI引擎从SoC里单独拆出来，做成了一颗独立AI协处理加速器。
安霸过去的AI路线一直很明确：CPU、视频处理、ISP和CVflow AI加速器放在一颗SoC里。对于摄像机、ADAS、机器人这类从头设计的设备，这种集成方式很合理。数据不用在多颗芯片之间来回搬，功耗和BOM也容易控制。
而X7则属于协处理器，通过PCIe或者USB总线就可以与主处理器相连。十分适合系统已经部署完毕但是需要增加AI能力的设备。
安霸举的例子包括摄像机、工业控制器、网关、零售终端、机器人和无人机。无需设计主板，便可从传统CNN升级到视觉Transformer。
独立AI加速器并不是什么新概念。数据中心里，GPU本来就是加速卡，边缘侧也有不少AI协处理器。X7则是通过解决供电和功耗问题，不给系统增加负担。在目前客户设计中，X7运行在2～5W的功耗范围，因此系统无需重新设计散热和电源。
对于大部分嵌入式系统而言，扩展性都较弱，因此安霸也是充分的考虑了系统升级需求。参考设计XCalibur是标准M.2 2280卡，板上带LPDDR5，通过PCIe连接主机。
Kinara（NXP收购）
NXP在2025年10月完成了对Kinara的收购，这家公司则是独立NPU（dNPU）的领导企业之一。现在，在NXP的物理AI方案中，Ara加速器已经成为重要的环节之一。
Kinara是一家美国半导体公司，2013年由Rehan Hameed、Wajahat Qadeer和Jason Copeland创立，最初名为Core Viz ，创立后公司更名为Deep Vision，2022年再次更名为Kinara。收购之前，Kinara就有Ara-1和Ara-2两个系列产品。
目前，NXP在官网中展示了Ara-1和Ara240两个产品。Ara-1基于高效的数据流架构构建，DNPU能够实现实时AI计算和决策所需的性能和响应性。
Ara-1支持应用 运行多个具备零延迟上下文切换的AI模型。它支持集成AI摄像头和嵌入式设备 这些系统要求低延迟运行和更大灵活性，以适应新型号运营商。性能最高可达6eTOPS（等效每秒6万亿次运算）。
Ara240支持在AI驱动的计算和嵌入式系统上执行实时生成式AI、大型语言模型（LLMs）和视觉语言模型（VLMs），实现低延迟、更低的运营成本和增强的数据隐私。其创新架构结合了平衡计算、大片内内存和高片外带宽，高效执行大型模型。性能最高达40 eTOPS（每秒40万亿次等效运算）。
Hailo（Microchip收购）
Microchip在7月表示即将收购Hailo，引发行业巨大关注。Hailo和恩智浦收购的Kinara非常类似，是一家独立NPU（dNPU）公司。
Hailo是一家2017年成立的以色列AI芯片公司，Hailo执行长暨共同创办人Orr Danon在创立Hailo之前，Orr在以色列国防军一家领先的技术部门工作了十多年。在此期间，他领导了以色列情报界一些最大、最复杂的跨学科项目。因其开发和管理的项目，他获得了以色列总统颁发的以色列国防奖和军事情报局局长颁发的创意思维奖；另一位创立人暨公司CTO Avi Baum曾任德州仪器无线连接技术官，推动物联网工业物联网市场的互联MCU战略，并在以色列国防军担任高级架构和领导职务。
迄今为止，Hailo已筹集3.44亿美元资金，跻身独角兽行列。不只如此，这家公司还吸纳了许多人才，比如Intel前高级副总裁Mooly Eden、Mellanox前CEO兼联合创始人Eyal Waldman。
从产品来看，这家公司的dNPU一直受到业界广泛关注，目前拥有超过100家客户和1万名以上用户。从过往合作来看，也不缺乏巨头为其站台，比如Intel、Microchip、瑞萨、恩智浦、研华、立端、树莓派。
独立NPU方面，主要包括两个产品，一个是26TOPS的Hailo-8，集成2~8GB片上DRAM，一个是40TOPS INT4性能的Hailo-10H，采用更强大且可扩展的第二代神经核心架构，包含直接的DDR接口，使其能够扩展到大型模型，如LLM、VLM等。
DeepX
DEEPX是一家成立于2018年的韩国边缘AI芯片企业，总部位于京畿道，创始人兼CEO为Lokwon Kim，主要开发端侧AI芯片和计算方案。
2024年，DEEPX完成8043万美元C轮融资，首款芯片DX-M1获得CES 2024创新奖，并已在40多家公司部署。2025年，公司与三星晶圆代工等合作开发2nm端侧生成式AI芯片DX-M2，并推出DX-H1 V-NPU方案，后者获得CES 2026创新奖。
DEEPX目前将“物理AI”作为重要发展方向，产品覆盖机器人、智慧城市等场景，并已与现代汽车、百度等企业展开合作。
独立NPU方面，DEEPX DX-M1M这款AI处理器算力为25 TOPS (INT8)，集成2GB LPDDR4x (4266 MT/s)，典型功耗为3W，接口包括PCIe Gen3 x4 (支持Gen 1/2/3 & x1/x2/x4)。其在官网表示，其优先考虑每瓦推断数（IPS），以确保每次操作都能带来最大的真实价值。DX-M1M可轻松集成主机系统，加速计算机视觉和音频分析等多种应用。
瑞芯微
瑞芯微此前也推出了AI协处理器。比如RK1828就值得关注，它提供20 TOPS INT8的AI计算性能，集成5GB专用DRAM和最高1TB/s内存带宽，为大型语言、视觉语言和计算机视觉模型提供专用的计算和内存资源。
芯片采用3颗64位RISC-V处理器核心，其中两颗集成128位向量单元，每个核心配备32KB L1指令缓存、32KB L1数据缓存和128KB L2缓存。内置NPU最高提供 20 TOPS INT8算力，支持 INT4、INT8、INT16、FP8、FP16和BF16 等混合精度计算，并兼容TensorFlow、PyTorch、ONNX、Caffe等主流AI框架。
RK1820和RK1828的一个突出特点是配备了较大容量的片上DRAM，其中RK1820为 2.5GB，RK1828为 5GB，可以为LLM、VLM等AI负载提供较高的内存带宽。
在主机连接方面，芯片集成PCIe 2.1和USB 3.0接口，可作为独立AI协处理器连接主CPU。芯片还集成JPEG编解码、2D图形处理、千兆以太网、USB 2.0、SPI、I²C、UART、PWM等接口，具备较完整的边缘计算能力。
现有的RK1828模型生态系统包括Qwen3-8B、Qwen2.5-7B、Qwen2.5-VL-7B、InternVL、Gemma、Whisper、DINO、SigLIP和YOLO等模型，使开发者能够评估从本地对话AI到视觉理解和实时视觉推断等工作负载。
为旧设备补全物理AI瓶颈
为什么这些厂商都在布局独立的AI加速器？事实上，工厂里的视觉检测设备、道路摄像机、网关、机器人控制器，可能五年前就已经装上去了。但是当初系统设计时AI还没有出现，如果客户需要增加AI功能，最直接的办法就是换掉主SoC，但这往往是最复杂也是最贵的办法。
做成了一颗独立AI协处理加速器。这样不需要更换SoC，便可轻松为系统增加AI功能。
几年前，一颗边缘AI芯片常常只需要跑目标检测、分类或者人脸识别，模型和数据类型相对固定。
现在同一台设备可能同时运行多个视觉模型，再加视觉Transformer、多模态模型，甚至还要把视觉结果交给本地大语言模型。
随着物理AI越往工业、交通、零售和机器人里发展，存量设备升级的需求同样也会提升。
但是对于增量系统而言，直接升级SoC将是更合理的选择，不容易受到数据传输带宽影响。
未来升级不止需要全面升级，如果只提升AI性能，那么理论上更换可升级的AI模块即可。这种分工，很像PC时代的升级，但对于工业和物理AI而言演进路线同样如此。
#物理AI#AI加速器#dNPU#安霸#NXP#瑞芯微
精彩文章推荐
· END ·
