开源 System 1 模型 Laya 推理速度达 33 毫秒

从邮件分类、客服工单分流到内容审核，许多 AI 应用需要快速完成判断，并将结果交给后续程序处理。如何兼顾响应速度、输出格式与判断的可靠性，成为自动化工作流中的一大难题。

Convai Innovations 于 2026 年 9 月推出的开源模型 Laya 回应了这一问题。Laya 是一个非自回归的决策模型，其设计理念对应认知科学中的 System 1 快速判断模式，该模型总参数量为 4.21 亿，采用 ModernBERT-large 主干网络与决策头，面向分类、评分与路由等任务，支持开发者将文本、邮件、工单或 JSON 文档转化为可供程序直接使用的决策结果。

据官方介绍，Laya 可将多个问题批量处理，在一次前向计算中返回答案，GPU 上的推理耗时约为 33—38 毫秒，具体速度取决于硬件、输入长度与问题数量。模型支持 choice（选项选择）、score（评分）和 noul（是／否概率判断）三种问题类型，可用于判断工单归属、评估处理优先级或识别邮件风险。

除了输出答案，Laya 还通过 RLCD（面向校准决策的强化学习）优化概率校准，帮助开发者结合概率与置信度设置处理规则，例如自动分流高置信度工单，将不确定的结果交由人工复核。模型直接返回结构化结果，无需从生成文本中提取答案，可接入 LLM 输入安全防护、内容审核、检索段落过滤与模型路由等工作流。

目前，HyperAI 官网已上线「Laya：非自回归 System 1 决策模型」，支持本地部署与业务数据微调，开发者可围绕具体场景构建自己的自动化决策流程。

在线运行：

https://go.hyper.ai/ny5QN

更多在线教程：

https://hyper.ai/notebooks 

demo 页面

1、进入 hyper.ai 首页后，选择「教程」页面，或点击「查看更多教程」，选择「Laya：非自回归 System 1 决策模型」，点击「运行此教程」。

2.页面跳转后，点击右上角「Clone」，将该教程克隆至自己的容器中。

注：页面右上角支持切换语言，目前提供中文及英文两种语言，本教程文章以英文为例进行步骤展示。

3.选择「NVIDIA RTX 5090」以及「PyTorch」镜像，点击「Continue job execution（继续执行）」。

4.等待分配资源，当状态变为「Running（运行中）」后，点击「Open Workspace」进入 Jupyter Workspace。

2.待运行完毕后，点击右侧 API 地址即可在浏览器中访问本地 WebUI 界面，开始与本地模型对话。