locallyai:手机如何本地跑大模型?Qwen 3.5 随便用!
发表于|更新于|大语言模型
想在手机上本地运行大语言模型吗?本视频教你如何在手机上部署运行大模型,以Qwen3.5为例。随着模型量化技术的进步和手机芯片性能的提升,现在完全可以在手机上离线运行AI大模型。视频涵盖了:手机端支持的模型列表、安装步骤(使用MLC-LLM等工具)、性能表现评估、以及离线使用的优势。对于想在手机上随时随地使用AI且保护隐私的用户来说,这是一个实用的本地AI部署教程。
相关推荐
2025-06-25
一键制作爆款视频!手把手教学!
大家先看下我做的这段说《人性的弱点》这本书的视频,怎么样,还可以吧?大家敢相信我只是用不到三分钟时间就做出来这个书单视频吗?全程没有做审核视频录制和剪辑! 剪映小助手下载 扣子入口
2024-11-29
RouteLLM:打造更快更便宜的LLM产品!
RouterLLM(或LLM Router)是一种智能的大语言模型路由技术,它的核心思想是:不是所有问题都需要最强的GPT-4来回答。RouterLLM可以根据问题的复杂度,自动将简单问题路由到便宜快速的小模型(如Llama、Mistral),复杂问题才使用顶级模型。这可以在保持回答质量的同时大幅降低API成本和提升响应速度。对于需要大规模使用LLM的生产级应用来说,RouterLLM是一种极其重要的成本优化技术。 访问入口
2024-11-29
Fluid:精美本地ai助手
Fluid是一款精美的本地AI助手应用,它让你在自己的电脑上获得类似ChatGPT的交互体验,但所有数据都在本地处理,无需联网。Fluid基于Ollama等本地模型运行工具,提供了精致的用户界面和流畅的交互体验。它支持多模型切换、对话管理、Markdown渲染等功能。对于注重隐私、需要在离线环境下使用AI的用户来说,Fluid是一个高颜值的本地AI解决方案。 访问入口
2025-08-21
AI程序员摸鱼神器!GPT-5官方AI编程模板!
兄弟们早,又淘到个宝藏 github 仓库啊,GPT-5 同步开源了 GPT5 编程项目啊!这个名为 “GPT-5 Coding Examples” 的仓库堪称开发者福音。里面全是 GPT-5 通过单一提示词生成的完整代码示例,从网站搭建、前端应用到游戏开发应有尽有,全程无需手动敲代码,仅凭自然语言描述就能让 AI 生成可直接运行的项目。这些提示词不仅是GPT-5上适用,在其他大语言模型上也一样可以用,有了这些模板,我们的AI编程能力相信肯定能大幅度提升,剩下更多时间去摸鱼啊,另外,MIT 许可证更是支持商业用途和二次开发,简直是摸鱼和创新两不误!喜欢的赶紧用起来吧。AI产品狙击手,每天分享免费AI工具和技巧,关注我!展开更多 访问入口
2024-11-29
定制大语言模型LLM用RAG还是微调?
这是每个AI应用开发者都会面临的核心问题:想要让大语言模型适应特定领域,应该选择RAG(检索增强生成)还是微调(Fine-tuning)?本视频从技术原理、实现成本、应用场景和维护复杂度等多个维度进行对比分析。RAG适合需要动态知识更新和检索外部信息的场景,微调适合需要模型学习特定输出风格和格式的场景。视频通过实际案例帮助你做出最合适的技术选型。
2025-12-12
GPT 5.2 免费用!每天提供免费额度!
GPT-5.2(或OpenAI最新GPT系列模型)现在提供了每日免费使用额度!本视频教你如何注册和使用GPT-5.2的免费额度,包括:支持的平台和入口、免费额度的具体限制(每日消息数、上下文长度等)、以及如何最大化利用免费额度的使用技巧。对于日常使用AI助手处理工作、学习和创作的用户来说,这是一个节省订阅费用的好消息。 访问入口
公告






