🔥【Jev模型专精判断,有望搭配LLM优化Agent

📅 09-21 10:00 📰 刨米机AI精选
🔥【Jev模型】专精判断,有望搭配LLM优化Agent

☀️【模型信息】2026年9月15日,TypeSafe AI发布Jev模型并开放早期访问,Jev非传统LLM,支持文本输入,输出内容为Noul(布尔概率)、Choice(多选一)、Score(等级评分)三种形式,而非LLM输出的本文信息,将信息直接转化为程序能够执行的决策。

☀️【主打高效及指令遵循】其官网所称的“零幻觉”来自两方面,其一是模型机制上限定答案类型和候选范围,例如用户Prompt只允许选择工具A或B,就不会凭空编出工具C;其二采用新RL算法RLCD,训练目标为模型在做出判断时,准确表达有多大把握,追求让预测概率与实际发生频率相匹配,目前暂未开源技术论文披露具体奖励函数、训练流程。新技术路线不同不意味着老RL算法被替代,而是TypeSafe AI选择了一种更适合决策式模型的算法,训练决策模型和LLM所需的算法本身就有差异。

☀️【不是新技术,为什么市场开始关注】分类器属于AI成熟技术领域,2018年发布的BERT模型(参数量0.3B)就已能支持分类任务,输入自然语言,输出判断结果。Jev之所以被关注,是现阶段Agent运行效率、效果仍有待提升,目前Agent中单任务中各个步骤全部交给LLM判断,模型不仅要理解问题,还要花时间生成一段最终不会被人阅读、只供程序提取结果的文本信息,而Jev可以直接给出输出准确判断供LLM评估,省去一部分逐token生成文本的中间过程。成本方面决策式模型比LLM便宜属正常情况,官方披露Jev响应时间低至70-500毫秒,每百万输入Token收费0.042美元,输出免费。

☀️【前景:在Agent工作流和大模型搭配发挥作用】现阶段Jev对于AGI贡献较为有限,更多是填补了一个还没有被LLM很好解决的生态位,需要与大模型协同发挥自身优势。例如,未来Agent可能出现工作流复杂规划、疑难分析和高难度代码任务交给前沿模型,路由、分类、验证等高频判断交给Jev这类决策式模型,比如用户目标是否完成、结果是否符合要求等任务,以兼顾效果、速度与成本。

内容由 AI 从网络自动采集(可能存在排版混乱),仅供参考,不作为任何决策依据,因使用产生的后果不承担任何责任。

内容版权归原作者所有,本平台仅作学习研究之引用,如涉及侵权请联系删除。