100 毫秒做决定的模型：AWS 给智能体装了个"新大脑"

9 月中旬，一个叫 Jev 的模型悄悄上线，一周之内，开源圈至少冒出七个复刻版；10 月 1 日，AWS 也连夜交出自己的答案——Strands Decider 2B，一个号称 115 毫秒就能做一次决定的模型。

这两个模型的共同点很反直觉：它们几乎不"写字"。

不生成文章、不写代码、不编故事，只回答一个问题——"现在该选哪个？"

这篇文章想讲清楚三件事：为什么智能体需要这种"只会做决定"的模型；Jev 和 AWS Strands Decider 2B 各自做了什么；以及，这场变化对 Agent 架构意味着什么。

01 智能体最大的内耗：每走一步，都要"想"很久

先看一个真实场景。一个 Agent 接到任务"帮我查这周的航班，选最便宜的订掉"，它要做的事情是：理解意图、调用搜索、比较结果、做决定、执行下单。

这里面最费钱、最费时间的，不是搜索，也不是下单，而是"比较结果、做决定"这一步。

因为传统做法是：把整段上下文扔给一个大模型，让它一边"写作文"一边"做判断"。模型要逐字生成一整段回答，你才能从里面挑出它到底选了哪个航班。

这就带来三个问题：

慢： 生成一段完整文本，每生成一个 token 都要一次前向计算。做一次决定，可能要几百上千个 token 的"铺垫"。

贵： 输入输出按 token 计费，决定本身只有几字节，但成本按整段文本算。

不可控： 答案藏在自然语言里，程序还得做一层"从文字里解析出结构"的工作，解析错了，Agent 就选错。

一句话：Agent 的推理能力和生成能力被绑在了一起，而它的大部分场景，只需要前者。

02 主角登场：Jev，把"判断"做成了独立 API

2026 年 9 月 15 日，一家此前并不知名的公司 TypeSafe AI 发布了 Jev，并把它定义为一类全新的模型："System One"（系统一）决策模型。

这个名字取自诺贝尔经济学奖得主丹尼尔·卡尼曼的理论：人类有两种思考系统——系统一是快速、直觉、自动的判断；系统二是缓慢、理性、费力的推理。

Jev 的定位就是"系统一"：它不做长篇推理，只对给定状态（State）和问题，返回三类极简的原子化响应：

Choice（选择）：从预设候选中选一个，例如"下一步调用哪个工具？"

Boolean / Noul（是/否）：例如"这笔交易需要人工复核吗？"

Score（评分）：例如"这个研究想法有多大可能成功？"

换句话说，Jev 把"判断"从通用大模型里抽了出来，做成了一个便宜、快速、可以独立调用的接口：面向 Agent、单独计费、单独优化。

开发者可以围绕判断任务，单独比较准确率、延迟和费用；决策能力从此有了自己的迭代路径，不必再跟着通用模型整体升级。

最受关注的一点是：Jev 的输出 token 永久免费——它不生成文本，输出的只是结构化的判断结果。

03 AWS 的答案：Strands Decider 2B，115 毫秒做决定

Jev 把"决策模型"这条路线带火之后，AWS 也坐不住了。

10 月 1 日，AWS Strands Labs 发布了开源决策模型 Strands Decider 2B——一个 20 亿参数的模型，目标是在智能体架构中承担"路由与决策"角色。

它和 Jev 走的是同一条路线：不生成文本，只在给定选项间做选择。

关键数字：

115 毫秒：中位延迟（RTX 3090 上，少于 300 token 的决策请求）——比通用大模型动辄数秒的"想一下"快了不止一个量级。

0.723：在 JevBench v1 公共基准上的准确率。

开源：与 Jev 的闭源 API 不同，Strands Decider 2B 权重开放，可在本地部署。

Strands Labs 是 AWS 的智能体研究部门，其 Strands Agents SDK 自 2025 年 5 月开源以来下载已超 1400 万次。这次把"决策模型"开源，等于 AWS 在官方层面把这条路线扶正了。

04 放在一起看：Jev 与 Strands Decider 2B

两个模型解决同一个问题，但选择了不同的路线。

维度	Jev（TypeSafe AI）	Strands Decider 2B（AWS）
发布	2026-09-15	2026-10-01
定位	System One 决策模型	Agent 路由/决策模型
响应	Choice / Boolean / Score	选项选择
延迟	快速（未公开具体值）	约 115ms 中位
开源	闭源 API	开源权重
计费	输出 token 免费	自部署（本地）

两条路线的差异其实反映了云厂商和初创公司的不同打法：TypeSafe 想通过 API 把"决策"变成一项计费服务，AWS 则想通过开源把决策模型变成整个生态的地基。

05 更值得注意的：开源圈一周冒出七个复刻版

Jev 发布不到一周，开源社区就出现了至少七个 Jev-like 决策模型：

Nimble：本地可跑的 Jev 替代，可直接装进本地环境（36氪报道"输出 token 永久免费，开源版也跟着火了"）。

OpenJev：兼容 Jev API 的开源服务器，改一下 base URL 就能用，绕过官方 waitlist。

NanoJev：0.6B 参数、基于 Qwen3-0.6B 的轻量复刻，带专用决策头。

mini-jev / Kev / laya-mlx 等：覆盖从 1G 内存可跑的本地版到各类量化实现。

这个速度本身就说明问题：开发者等这条路等了很久。决策模型的需求是真实存在的，只是此前没有人把它单独做出来。

一个值得注意的细节：arXiv 上已经出现关于 Jev 的实证研究（"Jev in the Wild"），对 Jev 的功能、应用与生态做了数据驱动分析——学术界也开始跟进这个方向。

06 这场变化，该怎么看

决策模型的本质，是把 Agent 的"思考"和"输出"解耦：

让通用大模型专注于"生成"——写代码、写文档、做长推理，这些是它的强项；

让决策模型专注于"判断"——选哪条路、要不要继续、哪个选项更优，用最快、最便宜、最可控的方式给出结构化答案。

对开发者的实际意义有三点：

1. 延迟可控。 Agent 每次"决定"从数秒级降到百毫秒级，工作流才能真正跑起来。

2. 成本可算。 决策单独计费、输出免费，成本模型从"按文本长度"变成"按判断次数"。

3. 行为可审计。 输出是结构化数据（Choice/Boolean/Score），程序可以直接分支，不再需要从自然语言里"猜"模型的意思——这也让 Agent 的行为更容易被监控和治理。

当然，它也有明确的边界：决策模型不是万能大脑，它只解决"给定选项做选择"这一类问题；真正复杂的开放推理，仍然需要通用大模型。

但方向已经清楚了：大模型负责聪明，决策模型负责快。智能体的下一轮进化，可能不是模型更大，而是"分工更细"。