如果重来一次我会这样入门AI

2024-11-29

定制大语言模型LLM用RAG还是微调？

这是每个AI应用开发者都会面临的核心问题：想要让大语言模型适应特定领域，应该选择RAG（检索增强生成）还是微调（Fine-tuning）？本视频从技术原理、实现成本、应用场景和维护复杂度等多个维度进行对比分析。RAG适合需要动态知识更新和检索外部信息的场景，微调适合需要模型学习特定输出风格和格式的场景。视频通过实际案例帮助你做出最合适的技术选型。

2024-11-29

试下用最简单的例子解析前向传播和反向传播

前向传播（Forward Propagation）和反向传播（Backpropagation）是神经网络训练的两个核心过程。前向传播简单来说就是数据从输入层经过隐藏层最终到达输出层的计算过程——就像工厂流水线，原材料从入口进入，经过各道工序加工，最终产出成品。计算出结果后，将模型预测值与真实值进行比较得到误差，然后反向传播从输出层出发，逆向逐层计算每个参数对总误差的”贡献度”，并据此调整参数以减小误差。本视频用一个超级简单的实例，手把手带你理解这两个过程的具体计算步骤，让你真正明白神经网络是如何”学习”的。

2024-11-29

LLM中的量化模型是什么鬼？

量化（Quantization）是让大语言模型”变小变快”的核心技术。简单来说，量化就是将模型参数从高精度（如32位浮点数）降低到低精度（如8位或4位整数）的过程。这可以大幅减小模型体积（减少4-8倍），降低显存占用，加快推理速度，同时对模型性能的影响相对较小。例如，一个70B参数的模型经过4-bit量化后，原本需要140GB显存，现在只需要不到40GB，消费级显卡也能运行。本视频通俗讲解量化的原理和实际应用。

2024-11-29

三分钟告诉你什么是梯度下降算法?

梯度下降（Gradient Descent）是机器学习和深度学习中最核心的优化算法，也是让AI模型”学会”东西的根本方法。可以用一个经典的比喻来理解：想象你站在一座山的某个位置，想要下山到最低点（也就是找到损失函数的最小值）。由于大雾看不清整个地形，你只能通过感受脚下坡度来判断方向——朝最陡的下坡方向迈一步，然后重新感受坡度再迈一步，不断重复直到到达谷底。梯度下降就是这样一个迭代优化过程：计算损失函数的梯度（即最陡上升方向），然后朝相反方向更新模型参数，逐步减小预测误差。本视频用三分钟帮你彻底搞懂这一核心概念。

2024-11-29

机器学习和深度学习有什么区别？

机器学习和深度学习是AI领域两个紧密相关但又有本质区别的概念。简单来说，深度学习是机器学习的一个子集，就像”轿车是汽车的一种”——所有的深度学习都属于机器学习，但并非所有机器学习都是深度学习。二者的核心区别在于：传统机器学习需要人工设计特征（比如手动定义”尺寸>10cm且颜色为红色”这样的规则），而深度学习通过多层神经网络自动从原始数据中提取特征和模式。深度学习尤其擅长处理图像、音频、文本等非结构化数据，但需要更多的数据和算力支持。本视频用通俗的语言和实例，帮你理清这两个AI基础概念的关系和区别。

2024-11-29

大话神经网络之模型的泛化能力和过度拟合

泛化能力（Generalization）和过拟合（Overfitting）是神经网络训练中最重要的两个概念。泛化能力指模型在未见过的数据上表现良好的能力——就像学生能灵活运用学过的知识解决新问题。过拟合则是模型过度”死记硬背”训练数据，在新数据上表现不佳——就像学生只会做原题，题目一变就不会了。本视频用通俗的语言和生动的例子，解释这两个概念的原理、原因和解决方法，帮你理解如何训练出真正”学会”了的AI模型。