大模型入门（三）：SFT、LoRA、RAG、MoE、Agent 这些缩写在解决什么
BestBlog编程类文章 · 软件开发
📌 一句话摘要 本文系统梳理了大模型技术中常见的 SFT、LoRA、RAG、MoE、Agent 等核心缩写，依据训练、使用、结构成本和评测四大维度解析其解决问题、适用场景及选型原则。 📝 详细摘要 本文聚焦大模型技术中高频缩写，按训练侧（SFT、RLHF、DPO、LoRA）、使用侧（RAG、Function Calling、Agent、MCP）、结构与成本（MoE、量化、KV Cache）、评测指标（MMLU、GSM8K、HumanEval）四大维度解析每个技术的核心作用、适用场景及局限。指出 SFT 适用于任务边界清晰的格式化任务，RLHF 提升对话自然度，DPO 以较低成本实现偏好优化，LoRA 及 QLoRA 降低微调门槛。RAG 解决知识时效与私域资料问题，Function Calling 实现结构化工具调用，Agent 通过循环调度完成复杂任务，MCP 统一模型与工具的接口格式。MoE 提升参数规模，量化与 KV Cache 优化推理效率。最后强调选型需先厘清需求本质（知识、形式或能力），再匹配对应工具。 💡 主要观点 训练侧技术（SFT、RLHF、DPO、LoRA）解决模型行为微调问题 SFT 通过监督数据让模型学习特定任务格式，适合有清晰边界的场景；RLHF 利用人类反馈提升自然度；DPO 绕过奖励模型直接优化偏好；LoRA 以低秩适配降低微调成本，QLoRA 进一步支持消费级显卡。 使用侧技术（RAG、Function Calling、Agent、MCP）提升知识时效与任务执行能力 RAG 通过检索私域资料解决知识更新问题；Function Calling 实现结构化工具调用；Agent 通过循环调度完成复杂任务；MCP 统一模型与工具接口格式，降低集成成本。 结构与成本技术（MoE、量化、KV Cache）优化模型规模与推理效率 MoE 通过稀疏激活提升参数规模；量化降低权重存储与计算需求；KV Cache 缓存注意力结果显著加速长对话推理。 评测指标（MMLU、GSM8K、HumanEval）提供模型能力基准 MMLU 测验学科知识，GSM8K 检验数学推理，HumanEval 评估代码生成能力，这些指标帮助理解模型能力倾向而非直接预测业务效果。 选型原则强调先厘清需求本质再匹配工具 文章指出需判断缺的是知识、形式还是能力，分别对应 RAG、提示词/SFT、Agent 等工具，避免盲目微调或堆叠提示词导致效果下降。 💬 文章金句 缩写本身不难记，难的是知道自己该用哪个。 先问清楚自己缺的是知识、是形式，还是能力，再决定用哪个工具。 想让它知道你的资料，用 RAG，别微调。 想让它稳定执行一类任务，样本够就上 SFT 或 LoRA。 想让它自动跑流程，用 function calling 加 agent，但先把权限和超时卡死。 📊 文章信息 AI 初评： 85 来源： 阿里云开发者社区 作者： 阿里云开发者社区 分类： 人工智能 语言： 中文 阅读时间： 8 分钟 字数： 1759 标签： AI 与智能应用 , AI Agent , RAG / 检索增强 , 混合专家模型 , 大语言模型 (LLM) 阅读完整文章