Minimind,自己动手实现 LLM,2 小时训练一个大模型!
先看成果:一个只花了三块钱训练出来的大语言模型,聊起来还可以。如果你想真正弄懂大语言模型的工作原理,或者想知道一个大模型到底是怎么训练出来的,这个叫 MiniMind 的开源项目必须要收藏——花 3 块钱租一张 3090,两个小时就能从零开始训练出属于你自己的大语言模型。 这个项目目前在 GitHub 上已经涨到 6.1 万颗星、近 8000 个 fork。训出来的模型只有 6400 万参数,体积大概是 GPT-3 的两千七百分之一,普通个人显卡就能跑得动训练。整个流程也很简单:把仓库克隆下来,装好依赖,下载它开源的数据集,跑一条预训练命令,再补一条微调命令,就能得到一个小巧但会中文聊天的模型。之后还能直接用 Ollama 拉起来跑,或者通过 OpenAI 兼容接口接到 OpenWebUI 里。 真正少见的是,作者把 MoE、LoRA、DPO 强化学习、蒸馏、工具调用这一整条链路的核心算法,全用原生 PyTorch 手写了一遍,没有藏在第三方封装后面,你跟着练的同时每一行都能看懂。项目甚至还延伸出了视觉和多模态的孪生项目。 想认真搞懂大模型这个黑盒的人,不妨先拿家里那张显卡...
Hy4 Preview 鹈鹕骑自行车SVG测评报告!
本期视频继续我们新 Benchmark V2.2 中的鹈鹕土星环骑自行车和复合弓射箭 SVG 测试。上一集测了千问 3.8 Max 0902,这一集应粉丝要求先测腾讯混元 Hy4 Preview。 第二题:鹈鹕土星环骑自行车 SVG 测试 我们看一下效果,发现三个比较明显的问题: 第一个问题是自行车骑到左侧或右侧时不会转弯,而是在快要出跑道时才闪现回正确方向。第二个问题在于鹈鹕的屁股没有坐在坐垫上,且坐垫上面有一块铁状凸出物——这大概就是鹈鹕不敢坐上去的原因。第三个问题需要细看:鹈鹕的两条腿都画在了同一侧,这是因为自行车横杠是青色的,但右腿本应被横杠挡住的部分却没有被遮挡。 第三题:复合弓射箭 SVG 测试 弓箭明显还是反的。原因是仔细观察可以发现,手上方的瞄具应该在面向人的这一侧,但当前方向完全相反。好在下面的平衡杆方向倒是正确的。 其余测试内容大家如果感兴趣,可以去博客上看 V2.1 版本的完整评测。由于 V2.2 只改动了以上两个测试题目,其他项目保持不变,这里就不再重复测了。 访问入口
Lingbot-map!手机拍视频秒变 3D!开源三维建图神器!
灵波团队的这个开源项目,能把随手拍的一段视频变成一个可以转着看、还能逛进去看的 3D 场景,目前在 GitHub 上已经有 17K 多颗星。用法很简单:拿手机围着展厅、街区或者工地拍一圈,把视频丢进去,就能看着它一边播视频、一边把现场一点点搭成 3D 的。车载记录仪拍的路面、旅游时拍的街景、在楼里走十几分钟录的长视频,都能直接喂给它。 它还会自动把天空去掉,出来的模型干净很多;跑起来也快,每秒能处理二三十帧,几万帧的超长视频照样啃得下来。 模型可以免费下载,网上已经有人用普通游戏本把它跑通了;代码开源,按协议可以商用。做测绘、自动驾驶、机器人的朋友尤其值得关注。 项目自带有三个示例场景,可以先下载下来跑一遍看看效果,再决定是否要自己部署玩一下。 访问入口
Qwen 3.8 Max 鹈鹕骑自行车SVG测评报告!
本期继续跑 Benchmark 里的两道 SVG 测试题——「鹈鹕土星环骑自行车」和「复合弓射箭」。上一集测的是 GLM 5.3 Flash,这一集轮到千问 3.8 Max 0902 上场。 第二题「鹈鹕土星环骑自行车 SVG 测试」,先看效果。鹈鹕和自行车的结构没有问题,但骑到右边之后,鹈鹕和自行车整个倒了过来。这一点和 GLM 5.3 Flash 刚好相反:GLM 是在上方跑道正常,一来到下面跑道就倒过来。 第三题「复合弓射箭 SVG 测试」同样有几个问题。第一,弓箭明显是反的;第二,人物的右手去拉弓的时候,是穿过了持弓的左手的,属于明显的穿帮。 其他题目这次就不重测了,分数继续沿用 Benchmark V2.1 的测评结果,只有第二、第三题换成本次的新得分。大家翻 Benchmark 数据的时候请注意这一点,我也会在页面上标注出来。 访问入口
GLM 5.3 Flash 鹈鹕骑自行车SVG测评报告!
本期继续跑 Benchmark 里的两道 SVG 测试题——「鹈鹕土星环骑自行车」和「复合弓射箭」。上一集测的是 DeepSeek V4.1,这一集轮到 GLM 5.3 Flash 上场,两道题都开到最高思考深度。 先说第二题「鹈鹕土星环骑自行车 SVG 测试」。GLM 5.3 Flash 花了 20 多分钟才出结果,而 DeepSeek 应该是 10 分钟之内就做好了,慢得太多。再看画面本身:鹈鹕和自行车的结构没有问题,也确实沿着土星环的环形跑道在骑,但一跑到右边就开始露馅——鹈鹕和车都变成了在跑道下面。可见它并没有真正理解「要在跑道上方骑行」,只是单纯想着要绕着轨道跑一圈。 第三题「复合弓射箭 SVG 测试」同样有几个问题。第一,弓的部件明显是反的;第二,人物射箭的手势完全不对,看起来像是在扯线,更像斯诺克架杆击球,而不是在开弓射箭。 其他题目这次就不重测了,分数继续沿用 V2 的测评结果,只有第二、第三题换成本次的新得分。大家翻 Benchmark 数据的时候请注意这一点,我也会在页面上标注出来。 访问入口
Deepseek V4.1 Flash 鹈鹕SVG测评报告!
本期视频把祖传测试用例升级到了 V2.2,其中第二、第三道题做了替换:原本的两道推理题换成「鹈鹕土星环骑自行车 SVG 测试」和「复合弓射箭 SVG 测试」,其余题目保持不变。这一集先用这两道新题试水,看看 DeepSeek 最新的 V4.1 Flash 表现如何。 第二题「鹈鹕土星环骑自行车 SVG 测试」出师不利。模型完全没有按照提示让鹈鹕沿着土星环骑行,看起来是对提示词里「土星环环形跑道」的理解出了问题。考虑到这是新题第一次测,我给了它第二次机会重新跑,结果依然不行——自行车踩到环道左右两侧时完全不懂得转弯,而是快要踩出环道的时候突然「闪现」回正确方向。不过值得一提的是,两轮测试里鹈鹕和自行车的结构都没有出现任何问题,画面本身是立得住的。 第三题「复合弓射箭 SVG 测试」同样暴露出三个明显问题:第一,拉弓时上下两个滑轮转动方向相同,但按真实复合弓的机械结构,上面滑轮逆时针时下面应该顺时针才对;第二,人物的两只手像麻花一样纠缠在一起,手部结构明显不对;第三,人物是直面屏幕,而不是面向靶子射击。 需要说明的是,本期只重测了升级后的第二、第三题,其他题目的分数继续沿用 V...
Sirchmunk!传统RAG已死!免向量自进化知识库!
做过 RAG 的人都懂那套流程有多累:PDF、Word、Excel 先解析,再切片、算 embedding,然后灌进向量库。索引建完半小时过去了,文件一改还得重跑。更麻烦的是,检索捞出来的经常是碎片——答不上来的时候,你都不知道到底是模型笨,还是上下文早被切没了。 Sirchmunk 干脆把这层直接撤了。它的判断是:切片等于把文章拦腰砍断,向量化等于把内容压成一串数字,而压缩就有损失;大模型本来就能读原文,何必先去看残骸?于是它靠关键词和文件路径一层层把范围收窄,先锁定是哪一段,再去读那一段。装完 pip、指向你的目录就能开口提问——比如「这鉴权在哪实现的」「去年那份合同付款条件怎么写的」。 配一个 OpenAI 兼容的接口即可使用。Deep 模式十几二十秒就能交出带原文出处的报告,Fast 模式两三秒就出结果。搜完的结果不会丢,会沉淀成一层层的知识树;同样的问题再问一遍,直接命中缓存,省下 Token。数据全程留在自己机器上,模型也可以换成本地的,Docker 四核 2G 就能跑,Apache 2.0 协议可商用。 做 AI 知识库和 RAG 的兄弟可以去试试,建议先拿你...
Arnis!用你家乡的地图玩《我的世界》!
你现在可以用家乡,或者说任何城市的地图来玩《我的世界》了。这个叫 Arnis 的开源项目,在 GitHub 上已经攒了 17,000 多颗星。 用法很直接:打开软件,在地图上框一块地,选好存档点,真实世界的山脉、河流、马路就按真地形搬进游戏了,连你家那栋楼也会一起出现,房屋内饰都能一并生成。 缩放比例自己调。你可以把老家县城做出来逛一圈,还原自己读过的学校,或者干脆让整座城市变成朋友联机的地图。 数据取自 OpenStreetMap 的路网,加上实测高程,所以地形起伏不是瞎编的。Windows、Mac、Linux 三个平台都能跑。 建议先拿家乡生成一遍——看着你走过十几年的那条街,一格一格出现在方块世界里。 访问入口
千问办公入门(25)!免API Key生成图片!
第 25 期《千问办公入门》继续聊技能(skill)的用法,这期要解决的是一个很实际的需求——在千问办公里直接生成图片,既不用跳出千问办公,也不用填写任何 API Key。 打开千问办公后进入技能列表,找到「图像创作」这个 skill。它是千问办公官方自己做的,所以我们不需要接入任何 key,装上就能用——对不想折腾 API Key 的用户来说,这是最省事的一条路径,站内就把生图这件事闭环了。 安装完成后,新建一个任务,用斜杠命令唤起这个 skill,接着就可以直接输入提示词让它生成图片了。比如让它生成一张「上海城市微缩图」,几步操作就走完了整个流程。 从实际体验看,生成速度相当快,出图质量也不错。对于一般的个人使用和日常办公需求来说,这个 skill 已经够用了;如果你的生图需求不算重度,就没必要再去单独接一套第三方生图服务。下集见…… 访问入口
Vocalremover!一键分离音乐人声和伴奏!自媒体神器!
今天要分享的是一款 vocal remover AI 工具,它可以把音乐分离成人声和伴奏两条音轨。 先听一下原始的音乐,再来听分离之后的人声——是不是很清晰?接着单独听伴奏,可以看到人声和伴奏已经完全分离开来了。 使用方式也非常简单,直接把音频上传上去,一键就搞定了。 这个工具最大的优势就是免费。市面上不少收费的 AI 工具同样能做到人声分离,但你得先打开那些工具、还得付费,一圈折腾下来并不轻松。所以这个免费方案就显得格外难能可贵。如果大家还是找不到入口,可以在评论区跟我说一声。 访问入口









