Laya server！一键部署Laya！Jev开源平替！
前几天分享了当下大火的决策模型 Jev，以及它的开源平替 Laya。但 Laya 本身的问题也很直接：它就是一个 Python 库——Torch 要自己装，权重还得自己去 Hugging Face 拉。
GitHub 上这个新的开源项目 Laya Server 把这些活全干了：一条 Docker run 命令就能全部搞定，而且离线也能跑。它提供了一个网页控制台，你可以自己在上面创建 API Key，也自带 Playground 可以直接玩。
更关键的是，它对外暴露的是一个 HTTP RESTful API，调用方式和直接调用 Jev 几乎没有任何差别。改个地址，就能从云端切回自己的机器；挂个域名做反向代理，就能直接给团队用。
微信赞赏
相关推荐
2026-09-21
Laya大模型！Jev开源平替！本地轻松部署！
Jev 的平替就这么被开源了，兄弟们。看一下 GitHub 上这个叫 Laya 的项目：上线三天，4000 多颗星，pip 一行装上就能用。 用法是把它当决策层用：把邮件、工单这类原文倒进去，再用 choice、score、noul 这三种题型把要问的事情写清楚——比如这封邮件应该转给哪个部门？客户有多急？客户是不是想要退款？这条 prompt 是不是越狱注入？30 毫秒左右，所有答案一起回来。它不生成文字，所以你不用像调用大模型那样拿代码去解析结果，它也没法编点什么出来。 作者还拿它跟 Jev 对着测：Laya 答对了 76.6%，Jev 自己公布的是 72.7%，高那么一点点；速度就差得比较多了——Jev 200 多毫秒，而它 30 毫秒。同时 Jev 是个闭源接口，按调用量来收钱；Laya 你下载回来自己跑，不花钱。 作者在页面上也写清楚了哪儿不行：比如选项超过 20 个，它就不如 Jev 了；想更准确一点，得自己去训练一遍，脚本和教程作者都给了，免费显卡跑个四五小时就搞定了。而协议用的是 Apache 2.0，所以可以商用。 做工单分流、内容审核、AI 网办的兄弟，...
2026-09-19
Jev大模型API接入和测评报告！
Jev 这两天的风头可谓无两。上一期我们介绍过它是个什么鬼——一个只做分类和判断、不写字的模型，能有这样的热度着实难能可贵。这一期就来解决实际问题：它到底该怎么用，以及它和普通大语言模型相比，性能究竟差多少。 接入本身并不复杂。准备好 API key 后，可以直接照着 OpenRouter 上的示例调用，我这里做了一层简单封装。要记住它不是聊天模型，而是一个决策模型，决策类型只有三种：choice 做选择、score 判断得分、noul 做是非题。代码里的 state 就是你的测试用例，比如「用户抱怨被重复扣款两次」；questions 里放的是模型需要做出的判断类型和标准。我把三种类型都塞了进去：choice 按 criteria 标准判断这条陈述该归哪个部门处理，noul 判断用户是否有退款诉求，score 打分判断这件事有多紧急。 跑出来的结果很直观。重复扣款那一条，它判定应该由 billing 计费部门处理；退款意向的 noul 测试，它认为用户有 90% 的概率要求退款；工单紧急度打分 1.46，归档结论是「要尽快处理，但还没到阻塞用户的程度」——每个结果都还附带...
2026-10-08
GPT-6-Luna-Decisions！OpenAI版Jev决策模型！
OpenAI 也下场做决策模型了。Decisions API 这两天开公测，价格倒是 Jev 的两倍多。 三个问法几乎是照着 Jev 搬过来的。Jev 那边叫 noul、choice、score，OpenAI 这边叫 predicate、choice、score —— 换了个名字接着用。你把要判断的东西喂进去，文字、JSON 都行；OpenAI 这边多吃一样：图片。 出来直接就是数。是还是不是，给你一个 0 到 1 的概率；几个候选你选哪个，把每个的概率列出来；按档位打分，还给个加权分 —— 三档 0、1、2，它返你一个 1.1，意思是卡在两档中间。 答案旁边带着信心值。比如丢一张商品照片问有没有磕碰，它返 0.816，你就可以定条线：超过 0.8 转人工。一次请求最多塞 200 个问题。 官方说它比同一个模型走普通的 Responses API 快 10 倍。价钱摊开看：Jev 100 万输入 token 收 0.042 美元，它收 0.1 美元；但 Jev 只认文字，图片接不了。另外现在能跑的模型也只有 GPT-6 Luna 一个，还是公开测试版，输出那个数不单独收费。...
2026-09-19
Jev模型究竟是个什么鬼？凭什么海外爆火？
Jev 最近红透半边天——不止海外火了，国内也火得一塌糊涂。它到底是个什么鬼？简单说，它不是聊天模型。用法非常朴素：丢一段文本进去，再给一组带类型的问题，它一个字都不写，直接回概率。问题只有三种：choice 给几个选项让它挑一个，score 按你的量表打分，布尔判断则返回「是」的概率。 这恰恰是我们过去一直用 JSON 硬凑的东西。大模型吐出的那个 0.9 只是个字符，不是真概率；而 Jev 给的是校准过的真概率——它说 90%，就真有九成概率会答对。这让人想起几年前跟着吴恩达学深度学习时最早学的监督学习：训练一个分类器，分辨哪些邮件是垃圾邮件、哪些评论是负面评论。区别在于，传统分类器每换一个任务就得重新训练，标签也是焊死的；Jev 一个模型通吃，工单归哪类、评论正不正、消息急不急，同一套接口全扔给它，还不用人标数据训模型。 速度和成本是它爆火的直接原因。实测走 OpenRouter，输入每百万 token 4.2 美分，输出免费——因为根本没有逐字生成这回事。官方给出的端到端延迟是 70 到 500 毫秒。有开发者把 20 个任务串起来跑完，成本刚过一美分的十二分之一。...
2026-10-04
Jev Chat Jarvis！聊天界的开源贾维斯！
当前大火的 Jev 决策模型，撞上我们日常用的手机聊天工具，会擦出什么样的火花？这个开源项目直接把火花烧进了聊天框——它就是 Jev Chat Jarvis，GitHub 上已经攒了七千多颗星。用起来很简单：装上 APK，开好无障碍和悬浮窗权限，填上自己的模型 API key 就能跑。 它的工作方式是先读屏再递话。它会读出屏幕上正在聊的这一屏对话，先判断对方真实意图和危险等级、这消息该不该马上回，然后给出 3 条排好序的候选回复。你点一下就能填进输入框——但发不发永远你说了算，它不会替你按发送。QQ、飞书等常用聊天软件都能跑。 落到具体场景就很实用：客户半夜发来一句「在吗」、相亲对象突然冷淡、老板在群里点你名，它都能先帮你掂量一下再递话，把该怎么接的台阶先铺好。 比较难得的是它在隐私上的克制。它不碰你的账号密码，也不篡改聊天软件本身，工作原理跟手机自带的读屏功能一样，只看屏幕上显示的这一屏；转账、红包一概不碰，截图也只在本机识别、不上传。它还能给联系人存档案、写备注，让生成的回复贴合你的实际情况，不会跟真实处境打架。 模型接口自己配就行，OpenRouter、DeepSee...
2026-09-21
Jev模型新手入门指南！手把手教你接入和使用！
快速跟大家说下怎么接入当前最火的 Jev 决策模型。总的来说两种方式：一种是官方接入，昨天还要排队，今天已经放开了，且当前可以免费用；另外一种是我之前几个视频用的 OpenRouter，这里一并给大家介绍，方便刚接触的同学。 第一种方式，先到 typesafe.ai 官网，左边可以看到 API keys 的菜单，点击进去就可以创建自己的 key 了。当前是不需要付费的，反正我自己没有付费。免费额度多少或者免费到什么时候我没有去查，因为我给大家演示不需要多大的量，且我在 OpenRouter 上付费了，用 OpenRouter 就够了。 创建好 key 后，大家根据自己操作系统的情况把 key 保存到环境变量。如果这个不清楚的自己问下 DeepSeek 就好了。跟着大家可以看一下我这个完整的示例，自己截个图然后叫豆包之类的把代码解析出来，保存成 JavaScript 文件就好了。整个代码非常简单。 这里快速跟大家过一遍：首先从环境变量中取到我们刚才保存到环境变量的 API key，然后开始构建要发送到 Jev 的结构体。body 中的 model 就是模型，state 就是我...
