2026年3月，我国日均Token调用量已超过140万亿，较2025年底增长逾40%。调用量攀升，意味着大模型开始进入持续、高频的商业使用阶段。对提供推理服务的企业来说，成本控制也随之变得具体：一套设备每天能处理多少请求，每个Token消耗多少算力与电力，扩容后成本会怎样变化。
过去，讨论AI芯片性能，峰值算力往往排在前面。但模型进入逐词生成阶段后，计算单元还需要持续获取模型权重和KV Cache。若数据无法及时抵达，设备的标称算力就难以充分转化为实际吞吐。因此，芯片之外，存储器、互连、散热及机房供电也都进入成本账单。
熵旋芯智选择从模型权重的移动入手。
公司推出首款存内MPU的MITA（MRAM In-Memory Tensor Architecture）架构，计划将适合执行的权重映射到片上MRAM阵列。
推理时，激活数据进入阵列，权重在原位参与矩阵计算。对于重复调用的权重密集型运算，这一路径有机会减少从外部存储反复取数的开销。
这类运算在MoE专家层及FFN中具有代表性。
以MoE模型为例，模型拥有大量专家参数，每次生成Token只调用其中一部分。如果相关专家权重已驻留在对应阵列，系统可以缩短这一部分计算的数据路径。熵旋芯智将基于MRAM的处理单元称为MPU，旨在以异构加速模块的方式接入现有推理系统。
成本收益仍取决于部署条件。可驻留多少权重，与芯片容量、模型量化精度和专家分配方式有关；长上下文产生的KV Cache压力，还需由系统中的其他存储层处理。阵列节省的搬运，也要扣除读出、互连及调度所需的开销。
因此，客户真正需要的指标是端到端结果：同样的模型、精度、并发和响应要求下，每秒可以生成多少Token，总设备投入和运营支出是多少。熵旋芯智提出过显著降低Token成本的目标。若要将具体降幅用于商业比较，还需要公布对照平台与测算范围。
随着调用量扩大，推理成本的优化空间足以吸引新芯片公司进入。MITA能否抓住这次机会，最终取决于它能否在客户实际负载中，持续交付更低的单位Token成本。
