漫画插图:神经网络护盾抵御网络攻击

← Feed

Simon Willison

Jev 推出一种新的大语言模型——System One,即决策模型

TypeSafe AI 推出新型“决策模型”Jev,输入文本输出概率数值。
相比传统 LLM,它仅按输入收费且速度极快,适合分类与排序任务。

要点

行动提示

阅读原文

展开抓取的正文(本地存档,已排版)

2026 年 9 月 21 日

上周,TypeSafe AI 推出了 Jev,这是他们所称的“System One models”(系统一号模型)这一新类别的首个示例。(我和 Maggie Appleton 一样,认为“决策模型”是这类模型的更合适的名称)。Jev 是对传统 LLM 格式的一种有趣变体:它仍然接受文本输入,但不再输出文本,而是返回对应类别、是/否问题、评分及相关置信度的浮点数。

TypeSafe 对 Jev 的描述如下:

将 Jev 视为一种前沿智能函数调用:输入非结构化状态,输出类型化的概率决策。

它速度非常快,而且极其便宜。常规 LLM 的定价基于输入和输出 token,通常输出 token 的费率显著高于输入。Jev 仅对输入收费——输出免费——其首个模型的输入价格为每百万 token 0.042 美元,甚至比 OpenAI 的 GPT-5 Nano(0.05/百万)还要便宜。

Jev 允许您询问关于文本或半结构化数据的问题。您构建一个包含字符串、字符串数组或名称 - 值对集合的“状态”对象——这可能描述一篇文章、一位客户或任何其他类型的记录。然后将其连同一个问题或多个问题发送到他们的 API,并针对每个问题获得回复。

您可以提出三种类型的问题:

  • 是/否问题,Jev 称之为"Noul"问题——其 CEO 在 Hacker News 上确认,“Noul”是 Bernoulli(伯努利)的缩写,源自伯努利分布。您提出一个陈述,模型返回一个介于 0 到 1 之间的浮点数,表示模型认为该陈述为真的置信度。
  • 选择问题,模型从提供的一组选项中选择一个——实际上是针对所有选项的置信度加上概率分布。
  • 评分问题,您提供一系列带有描述的数值等级,模型返回该范围内的一个浮点分数。

Jev API 可以接受单个文档(“状态”)以及您可以塞进上下文窗口的任意数量的问题。问题会并行评估,因此发送多个问题所需的时间与发送一个问题相似。

Jev 1.13 jaggedness 文档提供了关于 Jev 优缺点的有用指导。目前它在处理数字、日期或“对抗性内容”方面表现不佳。

我认为决策模型这一框架有助于理解在哪里使用 Jev。它非常适合任何可以表达为分类任务的事情——例如垃圾邮件检测、建议标签、优先级排序和排名。

我也一直在用它进行实验,用于搜索重排序:首先使用 BM25 等廉价算法获取 100 个可能的匹配项,然后让 Jev 针对原始查询对这 100 个候选项的相关性进行评分。

黑盒模型再次流行

我发现关于 Jev 有一点不太舒服的地方是,它代表了向黑盒机器学习系统进一步倒退的回归。

LLM 本身已经是黑盒——您可以要求它们解释其决策理由,但无法保证它们所说的内容是有用或准确的。

Jev 甚至不给您提供这一点:输入您想要的所有文本,您得到的唯一输出就是一个浮点数。如果 Jev 将某内容标记为垃圾邮件,是哪些内容信号触发了这一判断?

这也意味着对偏见的担忧应置于首位。我真心希望没有人使用 Jev 来排名求职者——这个浮点数可能掩盖了模型中嵌入的各种不可见的偏见,而实验性地分离这些偏见将是一项棘手的任务。

(我曾尝试一个实验,让 Jev 对旧金山湾区的每个城市进行是/否评分,判断它们是否是“好城市”——它将 Cupertino 排在首位,将 East Palo Alto 排在末位。真是令人惊讶。)

实际上,这意味着评估和结构化实验对于 Jev 项目甚至比常规 LLM 项目更为重要。幸运的是,Jev 如此便宜,运行数百甚至数千个实验提示的成本仅几分钱。

Jev 的非传统用途

过去几天里,观看更广泛的社区为 Jev 发掘潜在用例真的很有趣。以下是一些令我眼前一亮的创意用法:

  • Kyle Pena 的 jevchat 将 Jev 变成了一个(糟糕的)聊天模型。“在每一步,它向 Jev 提出一个问题:给定用户的问题和迄今为止写下的回复,下一个符号是什么?”。ericpruitt 在 Hacker News 上的评论:“这是 Morty 与死亡水晶对话的数字等价物”。
  • Fatih Kadir Akın 的 jev-leftpad 实现了 left-pad,提示为“在 value 之前需要多少个空格才能达到 targetLength?”,并配合一个选择查询,选项范围从“需要 0 个空格”到“需要 10 个空格”。
  • Andy Gayton 的 jev-2048 利用 Jev 来玩 2048 滑动拼图游戏。

开源权重复刻

还有大量项目试图在开源权重模型的基础上构建类似 Jev 的模型。Kev 就是一个有趣的例子,它利用 Qwen 3.5 生成了 0.8B、4B 和 9B 大小的模型。这里是相关的 Hacker News 讨论帖,有人在其中链接到了一个 JevBench 基准测试,该基准已用于比较“Jev 类决策模型”。

鉴于 Jev 是在不到一周前发布的,围绕它产生的活动量令人印象深刻。

在 LLM 中使用 Jev

2026 年 9 月 22 日更新:我发布了 llm-typesafe,这是一个插件,为我的 LLM CLI 工具和 Python 库添加了对 Jev 的支持。基本用法如下:

llm -m jev 'Please refund my last payment.' \\
  -s 'Does this message explicitly request a refund?'

有关其他查询类型的示例,请查看 README。