大语言模型 LLM 入门：训练阶段、推理流程与 Agent 中的作用

一.概述

在基于大语言模型的 Agent 系统中，LLM（Large Language Model，大语言模型）通常承担理解任务、生成计划和选择工具等职责，因此可以将它形象地理解为 Agent 的“大脑”。

理解 LLM 的工作方式，可以先区分两个阶段：

**训练阶段：**通过训练数据和优化算法调整模型参数，形成处理语言等任务的能力。

**推理阶段：**使用训练好的模型，根据当前输入生成输出。

本文以常见的自回归文本生成模型为例，介绍这两个阶段及其基本流程。

二.推理流程

三.补充

此外，还有计算机视觉模型，语音模型，图像与视频生成模型，推荐与排序模型等，这些模型都可分为学习和应用阶段。市面上有各种云服务提供了模型训练和模型接口服务

四.总结

理解 LLM，可以围绕三个核心概念展开：

训练：通过数据和优化算法调整参数，形成模型能力。

推理：利用已有参数，根据当前上下文生成输出。

Agent：在 LLM 的基础上结合工具、记忆和执行机制，完成任务。

对于常见的自回归文本生成模型，“根据上下文预测并生成后续 Token”是理解其工作方式的重要起点。进一步学习时，可以继续关注 Transformer、注意力机制、解码策略和工具调用等内容