Jeff！Jev开源平替！0.8B本地随便跑！
闭源 API 按毫秒卖钱的决策模型，有老哥自己烧卡训了个 0.8B 的开源平替：二十几毫秒出结果，还分文不收。这就是 Jeff，上线 10 天 GitHub 就攒了 1400 多颗星。
它对标的就是最近大火的 TypeSafe 那个闭源收费的 Jev——参数不公开，官方演示一次调用要 100 多毫秒。而 Jeff 连请求格式都跟 Jev 对齐，当平替接过去就能用，不用改客户端。
玩法是把大模型留着干重活，杂活全丢给它：比如这条评论是不是垃圾、客户这句话想干嘛、Agent 该调哪个工具。它直接给带概率的答案，没把握就转给大模型，最多能吃 254 个选项。
消费级显卡、自己电脑就能跑。相对于之前跟大家介绍过的拉雅（Laya），它不会选项一多就掉链子。想省推理成本的，可以先挑业务里最烧钱的那类高频判断换上去试一试。
微信赞赏
相关推荐
2026-09-20
Jev大模型是怎么玩游戏的？实现原理浅析！
上几集分享了几个最近全球大火的 Jev 决策大模型的视频，然后有粉丝说想看一下它是怎么自动玩游戏的。首先这里声明下，这个模型不是个聊天模型，它只是个决策模型——你输入当前的状态，它来做决策。你可以把它封装成一个函数，接受状态输入作为参数，然后返回决策结果，但是状态的获取和决策后下一步真要怎么移动，是其他代码或者工具要做的事情。 就以我们现在做的这个 Jev 玩贪吃蛇游戏的 Demo 来举例子。每一步输入的状态就是当前地图的大小、蛇头所在坐标、蛇身每个方块所在坐标、食物所在坐标、当前方向等，然后要 Jev 来根据这些信息决策下一步应该是上下还是左右。这些输入的状态，如果你没有源码的话，要看你的游戏有没有 API 或者什么方法获取到。 另外一个方法就是截屏，通过接入 VLLM（多模态大语言模型），把截屏发送给 VLLM 获取到整个游戏当前的状态，通过文字形式发送回来。然后我们的代码将这个信息发送给 G5 或 OpenRouter 上托管的 Jev 大模型，让它来决策下一步应该怎么做。Jev 说应该向左，那么我们的代码就可以直接调用游戏的 API 或者 Playwright 这些...
2026-09-19
Jev模型究竟是个什么鬼？凭什么海外爆火？
Jev 最近红透半边天——不止海外火了，国内也火得一塌糊涂。它到底是个什么鬼？简单说，它不是聊天模型。用法非常朴素：丢一段文本进去，再给一组带类型的问题，它一个字都不写，直接回概率。问题只有三种：choice 给几个选项让它挑一个，score 按你的量表打分，布尔判断则返回「是」的概率。 这恰恰是我们过去一直用 JSON 硬凑的东西。大模型吐出的那个 0.9 只是个字符，不是真概率；而 Jev 给的是校准过的真概率——它说 90%，就真有九成概率会答对。这让人想起几年前跟着吴恩达学深度学习时最早学的监督学习：训练一个分类器，分辨哪些邮件是垃圾邮件、哪些评论是负面评论。区别在于，传统分类器每换一个任务就得重新训练，标签也是焊死的；Jev 一个模型通吃，工单归哪类、评论正不正、消息急不急，同一套接口全扔给它，还不用人标数据训模型。 速度和成本是它爆火的直接原因。实测走 OpenRouter，输入每百万 token 4.2 美分，输出免费——因为根本没有逐字生成这回事。官方给出的端到端延迟是 70 到 500 毫秒。有开发者把 20 个任务串起来跑完，成本刚过一美分的十二分之一。...
2026-10-04
Jev Chat Jarvis！聊天界的开源贾维斯！
当前大火的 Jev 决策模型，撞上我们日常用的手机聊天工具，会擦出什么样的火花？这个开源项目直接把火花烧进了聊天框——它就是 Jev Chat Jarvis，GitHub 上已经攒了七千多颗星。用起来很简单：装上 APK，开好无障碍和悬浮窗权限，填上自己的模型 API key 就能跑。 它的工作方式是先读屏再递话。它会读出屏幕上正在聊的这一屏对话，先判断对方真实意图和危险等级、这消息该不该马上回，然后给出 3 条排好序的候选回复。你点一下就能填进输入框——但发不发永远你说了算，它不会替你按发送。QQ、飞书等常用聊天软件都能跑。 落到具体场景就很实用：客户半夜发来一句「在吗」、相亲对象突然冷淡、老板在群里点你名，它都能先帮你掂量一下再递话，把该怎么接的台阶先铺好。 比较难得的是它在隐私上的克制。它不碰你的账号密码，也不篡改聊天软件本身，工作原理跟手机自带的读屏功能一样，只看屏幕上显示的这一屏；转账、红包一概不碰，截图也只在本机识别、不上传。它还能给联系人存档案、写备注，让生成的回复贴合你的实际情况，不会跟真实处境打架。 模型接口自己配就行，OpenRouter、DeepSee...
2026-09-25
Laya server！一键部署Laya！Jev开源平替！
前几天分享了当下大火的决策模型 Jev，以及它的开源平替 Laya。但 Laya 本身的问题也很直接：它就是一个 Python 库——Torch 要自己装，权重还得自己去 Hugging Face 拉。 GitHub 上这个新的开源项目 Laya Server 把这些活全干了：一条 Docker run 命令就能全部搞定，而且离线也能跑。它提供了一个网页控制台，你可以自己在上面创建 API Key，也自带 Playground 可以直接玩。 更关键的是，它对外暴露的是一个 HTTP RESTful API，调用方式和直接调用 Jev 几乎没有任何差别。改个地址，就能从云端切回自己的机器；挂个域名做反向代理，就能直接给团队用。 访问入口
2026-09-20
UltraFast！Jev控制浏览器实战！BrowserUse开源力作！
前几天给大家分享的 Browser Use，这次结合当前最火的 Jev 决策大模型，开源了一个叫 UltraFast 的新项目。 它要做的事情很简单：让 Browser Use 像装上火箭引擎一样，快速替你翻网页。点按钮、填表单，机票查询搜出苏黎世到伦敦的航班，7 秒钟给你翻出来；百科词条 3 秒不到就点开；酒店搜索筛选不到 2 秒。上线才几天，GitHub 上就有 1 万多人点了星。 快在哪？浏览器调用次数从原来的 1000 多次直接砍到 100 出头。它不截图，而是把页面上的按钮、输入框列成一份编号清单，一次请求就把「干什么」和「点哪个」两个决定一起问回来，所以决策和动手之间几乎没有等待。 你要做的就三件事：clone 下来跑个 uv sync，填上 Jev 和一个大语言模型（如 DeepSeek）的 key，然后丢给它一个需要操作浏览器才能完成的目标就完了。大语言模型随便换，DeepSeek、Kimi、千问、GLM 都兼容，用的就是本机 Chrome，核心一共 6 个文件。 做浏览器自动化、RPA 还是 Agent 开发的兄弟建议收藏，先丢一个平时 RPA 太耗时的任...
2026-09-21
Jev模型新手入门指南！手把手教你接入和使用！
快速跟大家说下怎么接入当前最火的 Jev 决策模型。总的来说两种方式：一种是官方接入，昨天还要排队，今天已经放开了，且当前可以免费用；另外一种是我之前几个视频用的 OpenRouter，这里一并给大家介绍，方便刚接触的同学。 第一种方式，先到 typesafe.ai 官网，左边可以看到 API keys 的菜单，点击进去就可以创建自己的 key 了。当前是不需要付费的，反正我自己没有付费。免费额度多少或者免费到什么时候我没有去查，因为我给大家演示不需要多大的量，且我在 OpenRouter 上付费了，用 OpenRouter 就够了。 创建好 key 后，大家根据自己操作系统的情况把 key 保存到环境变量。如果这个不清楚的自己问下 DeepSeek 就好了。跟着大家可以看一下我这个完整的示例，自己截个图然后叫豆包之类的把代码解析出来，保存成 JavaScript 文件就好了。整个代码非常简单。 这里快速跟大家过一遍：首先从环境变量中取到我们刚才保存到环境变量的 API key，然后开始构建要发送到 Jev 的结构体。body 中的 model 就是模型，state 就是我...
