Openai的前研究员Diogo Almeida用两年开发了一个新式System One 类实用模型，模型输出token免费

Openai的Diogo Almeida的前研究员（InstructGPT （用人类示范 + 偏好排序 + RLHF，让模型更好地遵循指令）论文共同作者，GPT-4 Technical Report 共同作者，参与 ChatGPT 相关工作），2024年从openai离开出去创业，经过两年的封闭开发，做了一个比较务实的模型，System One 模型，是一种新型 AI 模型，专为软件内部决策而设计。模型叫Jev ，是 TypeSafe 的首个公开 System One 模型，针对自动化进行了优化。向 Jev 发送结构化问题，即可获得以概率和置信度形式呈现的决策结果，供你的软件执行。 系统One模型的特点是快决策类结构，相比LLM则定义为系统Two，需要进行更多的推理的慢决策。他们是从丹尼尔·卡尼曼的《思考，快与慢》一书中汲取灵感。模型类的名称源于快速、直觉式的系统One思维和缓慢、深思熟虑的系统2推理之间的区别。 Jev 的设计初衷是用于进行常识性判断：内容分类、请求路由、响应评分和信息评估。 模型优势是价格和效率： 输入：42美元/每十亿个输入token ，输出token：免费 相比头部LLM，速度提升 193.6 倍、价格降低 444.6 倍（官方口径） 理解什么是TypeSafe： TypeSafe 公开了三种AI 原语。与软件原语类似， AI 原语具有模块化、可组合、结构化、可靠和快速的特点。每种原语都会提出不同类型的问题并返回不同类型的答案。 Choice，Score，Noul 三种，分别是选择题（需要提供已知选项，打分排序问题，是否类问题） 下面看一个实例，应该比较容易理解是干嘛的模型了，这个模型在软件开发过程中应该会比较实用，一些工作流需求，一些智能路由等等，关键价格很便宜。 给模型的输入：（state表示向模型提问的指令） { "state": "Hi, I've been trying to connect my Stripe account for 3 days and it keeps failing. I'm losing sales. Please help ASAP.", // 客户原始消息。内容是：连 Stripe 连了 3 天一直失败，正在丢单，请尽快帮忙。 "model": "jev-latest", // 指定用来做分类判断的模型名称。 "questions": { // 需要模型回答的若干结构化问题。每个问题都有类型、说明和判定标准。 "department": { "type": "choice", // 选择题：从给定选项里选一个团队。 "instructions": "Which team should handle this", // 问题：这件事该由哪个团队处理。 "criteria": { "billing": "Payment or subscription issues", // billing：付款、订阅、账单问题 "technical": "Bugs or integration problems", // technical：Bug、对接失败、集成故障 "sales": "Pricing or account questions" // sales：价格、套餐、账户咨询 } }, "frustration": { "type": "score", // 打分题：按预设档位评估情绪强度。 "instructions": "How frustrated the customer appears", // 问题：客户看起来有多烦躁。 "criteria": [ "Calm, just stating facts", // 0/低：平静，只陈述事实 "Frustrated but civil", // 中：烦躁，但还算礼貌 "Very angry, strong language" // 高：非常生气，用语激烈 ] }, "is_urgent": { "type": "noul", // 布尔/是否题（这里写成 noul，多半是 bool / null 一类类型名）。 // 只判断“有没有”，不选部门、不打分。 "instructions": "The message conveys urgency or time-sensitivity" // 问题：这条消息是否表达了紧急或时效性。 // 例如出现 “3 days”、“losing sales”、“ASAP” 就偏紧急。 } } } 模型输出： { "model": "jev-latest", // 实际用来打标的模型名。 "answers": { // 对应之前 questions 里每一个问题的答案。 "department": { "type": "choice", // 这是一道选择题。 "choice": "technical", // 最终选定：技术团队。 // 因为主诉求是 Stripe 对接一直失败，属于集成/Bug，不是单纯询价或账单咨询。 "probabilities": { "billing": 0.159, // 认为是「账单/付款」的概率约 15.9% // 有一点相关：连不上支付可能影响收款，但不是主因。 "technical": 0.84, // 认为是「技术问题」的概率约 84% "sales": 0.001 // 认为是「销售/定价」的概率几乎为 0 }, "confidence": 0.596 // 对这个选择的整体把握约 59.6%。 // 不算特别高，因为 billing 也有一定可能。 }, "frustration": { "type": "score", // 这是一道打分题。 "score": 1.035, // 情绪分数约 1.035。 // 对照下面图例，最接近 1：「烦躁但还算礼貌」。 // 略高于 1，说明比「仅仅礼貌地抱怨」稍急一点，但远没到 2（怒骂）。 "legend": { "0": "Calm, just stating facts", // 0：平静，只陈述事实 "1": "Frustrated but civil", // 1：烦躁，但语气文明 "2": "Very angry, strong language" // 2：非常生气，用词激烈 }, "confidence": 0.842 // 对这个情绪判断较有把握，约 84.2%。 }, "is_urgent": { "type": "noul", // 是否题。noul 这里当「是/否的置信分数」用。 "noul": 0.999 // 几乎可以确定「紧急」：0.999 很接近 1。 // 依据是「3 days」「losing sales」「ASAP」。 } }, "usage": { "input_tokens": 312, // 输入消耗了 312 个 token（含系统说明 + 客户原文）。 "output_tokens": 48 // 模型生成答案用了 48 个 token。 } } 文档：https://docs.typesafe.ai/introduction/quickstart 官网：https://typesafe.ai/