大模型入门：概念、原理与云端本地部署及智能体边界

简介：这份PPT聚焦大模型概念、技术与应用实践，面向高校师生、人工智能初学者以及希望系统建立大模型知识框架的非技术读者，可用于课程教学、通识科普、讲座分享与自学梳理。内容从人工智能发展简史、人工智能思维切入，延伸到大模型的概念界定、发展历程、产品生态、基本原理、主要特点、分类方式、行业应用、对工作生活的影响、本地部署与智能体等主题，借助图文演示把抽象概念落到发展脉络与典型场景中，兼顾概念普及、技术理解与实践认知。压缩包内共1个pptx文件，约61.03MB，页面结构完整，便于直接用于课堂展示或按章节阅读。目前已有150人学习，适合快速把握大模型整体图景，并了解厦门大学大数据教学团队相关教学成果的读者。

1. 一句话说清大模型：它为什么突然出现在每个人的嘴里

先给一句定义：大模型就是参数规模极大、用海量数据训练出来、能处理文字图像语音等多种内容的一类人工智能模型。打个比方，它像一个把整座图书馆翻过一遍的实习生——没亲身经历过什么，却对语言里的搭配、逻辑和常识长出了极强的直觉，你起个话头它就能接下去。这个比喻不精确，但足够帮你把它和"一个写死规则的功能"区分开：它不是等人来点菜单，而是从数据里自己长出了一套应对方式。

值得花时间搞懂，是因为 AI 这个词已经从实验室挪进了日常工具箱，而大模型就是这波浪潮底下最核心的那块地基。写周报、查资料、改代码、整理表格，背后大概率都是它在出力。搞不清它的边界，就容易把"它会说"误当成"它都对"。

2. 大模型的"大"到底大在哪：参数、数据、算力三笔账

2.1 参数不是知识仓库，更像一排排调节旋钮

很多人第一次听到"千亿参数"，脑子里浮现的画面是一个塞满百科条目的硬盘。这个理解偏得有点远。

参数是模型内部的一堆数值，训练的过程就是反复微调这些数值，让模型在看到某段输入时给出的输出更接近"人类会这么说"。你可以把它想成调音台上密密麻麻的旋钮：旋钮越多，能调出来的音色越细腻，但旋钮本身不存储任何一首歌。真正的"知识"分散在旋钮之间的相对位置上，谁也指不出哪个旋钮对应"水的沸点是一百摄氏度"。

这也解释了一个反直觉的现象：模型能背出某条冷门事实，不代表它理解这条事实；它答错了，也不代表整体能力不行。参数多带来的是表达能力的上限更高，能捕捉到更细的模式和规律，而不是往仓库里多码了几箱货。

2.2 三个数字撑起一个"大"字

衡量一个大模型够不够"大"，业内通常看三样东西：参数数量、训练数据量、计算资源消耗。这三者像三脚架，缺一条腿就立不稳——参数再多，喂的数据不够，模型学不到东西；数据管够，算力跟不上，训练跑到一半就烧完了预算。

几个常被引用的量级可以帮你建立尺度感：2020 年，某海外团队发布的第三代模型把参数规模推到了 1750 亿；2023 年发布的新一代模型参数规模翻了十倍以上，达到 1.8 万亿；2021 年国内某团队推出的模型，参数量更是做到了 10 万亿这个级别。

看到这些数字先别急着惊叹。参数规模只是"容量"，不是"成绩"。同样参数量的两个模型，训练数据质量差一截，实际表现可能天差地别。这就好比两个人都有一间两百平的工作室，一个人堆满了分类整理过的工具，另一个堆满了没拆封的快递箱，能做出什么完全不是一回事。

注意，这张表说的是"够不够"，不是"越多越好"。规模上去之后，边际收益会递减，而成本是实打实地往上涨。真正决定一个模型好不好用的，往往是数据质量和训练方法，而不是单纯堆数字。

2.3 大模型的四样本事：会写、学得快、看得懂、能挪窝

参数和数据的规模最终要落在能力上。这份资料把大模型的能力归成四条，每一条都能对应到你日常能感知的场景。

第一是语言生成能力。它写出来的句子更自然、更流利，减少了那种一眼就能看出是机器拼凑的别扭感。你让它写一段产品说明、一封邮件、一段代码注释，出来的东西基本能直接用，稍微改改就能交差。

第二是学习能力强。它从海量数据里提取规律，再用这些规律去回答没见过的问题。你问一个它训练时没直接见过的问题，它也能给出一个结构合理的回答——不是因为它背过，而是因为它见过太多相似的模式。

第三是上下文理解能力。它能抓住一段话里前后文的关系，理解更复杂的语义和语境。同一个词在不同句子里的意思不一样，它能分辨出来。这也是为什么你给它一段长材料让它总结，它不会把开头和结尾的意思搞混。

第四是可迁移性。一次训练得到的知识和能力，可以挪到不同的任务和领域去用，不用为每个任务重新训一遍。这一点是它和早期专用模型最本质的差别：以前的模型是"一个模型干一件事"，现在是一个模型能干很多件事，换个任务只需要换个提问方式。

提示：这四条能力都有对应的失效场景。语言流畅不代表内容正确，上下文理解强不代表它记得住无限长的对话，可迁移也不代表跨领域不用校准。用的时候按能力清单逐条对一遍，比笼统地信任它靠谱得多。

2.4 概念走了七十年，才走到今天这一步

大模型不是凭空冒出来的。往回倒，1950 年，一位英国数学家发表了一篇论文，开篇就问"机器能思考吗"，并给出了一个至今仍被引用的判据：让测试者隔着屏幕同时和一个人、一台机器对话，如果足够多的测试者分不清哪个是机器，就认为这台机器具备智能。这个方法后来被冠上提出者的名字，成了这个领域的入门第一课。

1956 年夏天，一场在美国举办的学术研讨会上，"人工智能"这个词第一次被正式提出，这个学科由此被当作独立领域立了起来，那一年也被称作人工智能元年。此后的路并不平坦：1980 年前后，卷积神经网络的雏形出现；1998 年，一个用于手写数字识别、结构相当现代的卷积网络被提出，机器学习从浅层走向深度，为后来的自然语言生成和计算机视觉打了底。

这份资料把大模型自身的发展划成三段：萌芽期、沉淀期、爆发期。这个划分比按年份硬切更好用——萌芽期是想法先跑出来、算力和数据都跟不上的阶段；沉淀期是技术一点点攒、效果始终差口气的阶段；爆发期是算力、数据、方法三样凑齐，模型能力突然跨过可用门槛的阶段。很多人对 AI 的印象停留在"突然就厉害了"，其实是前两段太长太闷，只有第三段被看见。

3. 它是怎么学会说话的：从深度学习到"逐字接龙"的链条

3.1 预训练：把海量文本压成一套概率直觉

理解大模型怎么工作，最关键的一步是理解预训练在干什么。

想象你拿到一座图书馆的全部藏书，任务是"把它们读完并形成语感"。你没做笔记，也没建索引，但读完之后，你对"什么地方该出现什么词"有了极强的直觉：看到"春眠不觉"，你脱口而出"晓"；看到"由于天气原因，航班"，你知道后面大概率是"延误"而不是"取消退款"。这种直觉没法一条条列出来，但它真实存在。

预训练做的就是这件事。模型在海量文本上反复做同一个练习：遮住一部分内容，猜它是什么。猜错了就调整内部参数，猜对了也微调。练上足够多轮之后，参数里就沉淀出了一套关于语言和世界如何运作的统计规律。这套规律不是清晰的数据库，更像一种"压缩后的直觉"。

所以有句话说得挺准：大模型是对人类文本的一次有损压缩。压缩意味着它抓大放小，抓住了常见模式和主流表述，丢掉了大量细节和例外。这也预告了它的短板——越是冷门、越是需要精确到个位数的东西，越容易在压缩里被磨掉。

3.2 逐字接龙：它为什么能答出连贯的长段

很多人以为模型是"想好一整段话再吐出来"，实际不是。它一次只做一个决定：给定前面所有内容，猜下一个词最可能是什么。猜完接上，再猜下一个，循环往复。

# 极简示意：每一步只做一件事——给"下一个词"打分 vocab = ["今天", "天气", "不错", "下雨", "出门"] # 真实模型的词表有数万到十几万 context = ["今天", "天气"] # scores：模型对词表中每个候选词的偏好分数 scores = model.score_next_token(context, vocab) # temperature 控制保守还是发散：越接近 0 越像照标准答案，越大越发散 probs = softmax([s / temperature for s in scores]) next_token = sample(probs) # 按概率抽一个，不是直接取最高分 context.append(next_token) # 抽中的词接回上下文，再重复一轮

这段伪代码里有三个参数值得记住。temperature决定"保守程度"，做摘要、抽信息、写代码这类要求稳定的任务，把它调到接近 0；写文案、起标题、头脑风暴这类要求发散的场景，才适当调高。把它调高之后答案变得更有创意，同时也更容易翻车——因为它开始选那些概率不高但"看起来有趣"的词。sample这一步说明模型输出带随机性，同一个问题问两遍答案可能不一样，这不是故障，是设计。context则是它全部的"记忆"，超出上下文窗口的内容它真的看不见。

把这套机制想明白，很多玄学现象就有解释了：它答得流畅是因为逐字选词本来就擅长造通顺句子；它一本正经地说错是因为"听起来合理"和"事实正确"是两个不同的目标；它前后矛盾是因为每一轮都在重新看上下文，没有独立的记忆存档。

3.3 三段路：萌芽、沉淀、爆发

把技术链条铺开看，三个阶段各自解决了不同的问题。

萌芽期（大致从 1950 年代到 2005 年前后），主线是传统神经网络。想法很早就有了，但从专家规则到机器学习的转向花了很久，算力和数据都撑不起大模型。这个阶段最重要的成果不是效果，而是把"用数据训练模型"这条路走通了。

沉淀期，深度学习框架逐步成熟，模型结构不断迭代，训练技巧一点点积累。效果在稳步提升，但离"普通人愿意用"还差一段。这个阶段的很多工作后来成了大模型的地基，只是当时没人觉得它们会以这种方式被组合起来。

爆发期，算力、数据、方法三样凑齐，模型规模跨过某个门槛之后，出现了一些在小模型上观察不到的能力——业内管这叫"涌现"。这也是为什么 2020 年之后，每隔一段时间就会冒出一个明显更强的东西。

注意：涌现这个词容易被过度包装。它描述的是一个观察现象，不是一种神秘力量。规模到了一定程度能力变强，不代表再往上堆就一定继续变强，收益曲线会在某处变平。

3.4 会生成不等于会查证

这是最该早一点建立的认知。

模型的输出是概率选出来的，不是从某个权威数据库里检索出来的。它没有"我知道我不知道"的开关，遇到没把握的问题，它照样会给你一段流畅的回答。这个特性在英文里有个很形象的说法，翻成中文大意是"听起来很有道理地胡说"。

应对办法不复杂：凡是需要精确的地方——数字、日期、人名、条款、引用——都当成草稿，回到一手材料核对一遍。把模型当写作助手和思路陪练，它很好用；把它当权威信源，早晚要吃亏。

4. 四个最容易混的概念：人工智能、大模型、AIGC 与智能体

4.1 人工智能和大模型：一个是学科，一个是当下最主流的实现

这两个词被混用得太厉害，以至于很多人以为人工智能就是聊天框。

区别在于层级。人工智能是一个学科名，从 1956 年那场夏季研讨会算起，它包含了符号推理、专家系统、机器学习、深度学习等一大堆路线，前后折腾了七十年。大模型是这些路线里当下最成功的一种实现方式，出现时间短得多，只是刚好赶上了算力和数据都到位。

怎么区分：看到"人工智能"这个词，想的是"这门技术在研究什么"；看到"大模型"，想的是"这一代具体用什么方法做的"。前者是领域，后者是产品形态。这份资料里把人工智能思维拆成三件事——了解、区分、协作：了解它的基础运行模式，具备区分人的能力和机器的能力，懂得怎么和它配合。这三条针对的是"人工智能"这个更大的范畴，不是某一个具体模型。

4.2 大模型和 AIGC：一个是引擎，一个是产出

AIGC 指的是由人工智能生成内容，文章、图片、代码、音频、视频都算。它描述的是一种产出形式，大模型是驱动这种产出的引擎。

这个区别在实际使用中很关键。你看到一段 AI 生成的文案，那是 AIGC；背后跑的那个能理解指令、组织语言的模型，是大模型。同一个大模型可以支撑写作、翻译、问答好几种 AIGC 应用，就像一个发动机能装在不同车型上。

容易混的原因是两者经常同时出现，宣传语里常常混着说。记住一句话就够：AIGC 说的是"东西是怎么来的"，大模型说的是"是谁在干活"。

4.3 大模型和搜索引擎、知识库：一个靠概率，一个靠索引

这是日常使用中最容易踩坑的一组。

搜索引擎和知识库的工作方式是检索：你给关键词，它去索引里找匹配的条目，原样返回，附带出处。大模型的工作方式是生成：它根据训练时形成的规律，现场组织一段回答。前者保证"找到的就是存在的"，后者保证"回答读起来是通顺的"。

所以两者的可靠性边界完全不同。问"某份文件第几条怎么写的"，该查文档；问"这段话怎么改得更简洁"，该用模型。把该查的事交给模型，容易得到一段措辞漂亮但细节对不上的答案；把该写的事交给检索，你只会拿到一堆需要自己拼接的原文。

现在很多产品把两者缝在一起，先检索再生成，这是好办法——但你要清楚，缝合之后仍然要看出处。没有出处的流畅回答，可信度不会因为界面好看而提高。

4.4 智能体和聊天机器人：一个会动手，一个只会动嘴

聊天机器人的能力边界是"说"：你问，它答，输出是文字。智能体的能力边界扩展到了"做"：它能调用工具、读写文件、发起查询、按步骤完成一个多步任务，中间还能根据结果调整下一步。

差别不在聪明程度，在有没有行动接口。一个只会聊天的模型，你让它"查一下明天天气再决定要不要提醒我带伞"，它只能告诉你"你可以去查一下"；接了工具的智能体，会真的去调接口、拿到结果、再给你结论。

这也带来新的风险面。会动嘴的说错了，你改改就行；会动手的做错了，可能已经把文件删了、把邮件发了。给智能体放开权限的时候，边界要划清楚，这一步别省。

4.5 一张表把边界钉住

5. 云端调用、本地部署与智能体：三种用法各自解决什么

5.1 云端接口：最省事的那条路

绝大多数人接触大模型的方式是云端调用：打开网页或调用接口，输入内容，拿回结果。模型跑在别人的机房，你只负责提需求。

这条路的优势是门槛低。不用买卡，不用配环境，不用管模型怎么升级，打开就能用。对个人用户和中小团队来说，这是性价比最高的起点。

代价有两个。一是数据要出你的机器，涉及敏感信息的时候得先想清楚；二是你用的是通用模型，它对某个垂直领域的了解可能不如一个专门调过的模型。第一条是硬约束，第二条可以靠提示词和补充材料缓解。

# 云端调用的形状大致如此，各家字段名不同，看文档对应 response = client.generate( model="通用对话模型", messages=[{"role": "user", "content": "把这段会议记录整理成三条待办"}], max_tokens=512, # 输出长度上限，防止它刹不住车 temperature=0.3, # 抽取类任务调低，减少自由发挥 )

max_tokens限制的是输出长度，不是输入长度，别搞反。temperature在这里给到 0.3，是因为整理待办属于"照着原文抽"，不需要 creativity，越低越稳。如果换成写宣传文案，这个值可以往上抬到 0.8 左右试试手感。

5.2 本地部署：数据不出门的那条路

本地部署指的是把模型下载到自己的机器或内网服务器上跑。这条路解决的核心问题只有一个：数据不能出去。

对处理内部文档、客户资料、未公开设计的场景来说，这个约束往往是决定性的。云端再方便，数据要经过别人的服务器，有些行业就是过不了这一关。

代价也很实在。硬件要够，显存是硬门槛；模型要自己维护，版本更新、参数调优都得自己来；效果上，能在本地跑起来的模型，规模通常比云端旗舰小一截，复杂推理任务的表现会有落差。

# 本地部署：以常见的开源推理服务为例，参数按显存调整 inference-server \ --model ./local-model \ --context-length 8192 \ --gpu-memory-utilization 0.9

--context-length是上下文窗口，决定它一次能"看见"多少内容。这个值越大越吃显存，8K 大约够处理一篇长文，再往上要算算显存够不够。--gpu-memory-utilization是显存占用比例，给到 0.9 是留一点余量，顶到 1.0 容易在峰值时崩掉。这两个参数是最常需要调的，其他保持默认通常能跑起来。

提示：本地部署前先算清楚三件事——模型文件多大、显存有多少、并发几个人用。三个数对不上，跑起来也会在某个环节卡住。这份资料里把本地部署单列成一节，就是因为这一步最容易在硬件上翻车。

5.3 智能体：从"会说"跨到"会做"

智能体的思路是给模型接上手脚。它通常包含几个部件：一个负责理解任务和拆分步骤的模型，一组可以调用的工具（查数据库、读文件、发请求），一份记录中间结果的记忆，以及一个判断"这步做完没有"的循环。

举个具体例子。你让它"把本周的销售数据整理成周报"，纯聊天模型只能给你一个周报模板；智能体会先去查数据、算汇总、按模板填进去、生成文件，中途发现某天数据缺失还会回头补查。差别不在语言能力，在于它能不能真的执行动作。

这条路适合流程固定、步骤清晰、人工做起来很重复的任务。不适合的是目标模糊、判断标准主观、出错代价高的任务——比如让它自己决定要不要给客户发一封措辞强硬的邮件，这种权限给出去，后悔药可不好买。

5.4 分类的几条常见切法

理解了大模型是什么，还得知道它不是一种东西，而是一大类。常见的切法有几种。

按处理的模态分：只处理文字的，能同时处理文字和图像的，能处理语音的，能处理视频的。模态越多，能接的任务越杂，但对数据和算力的要求也越高。

按开放程度分：权重公开、可以自己下载部署的；只提供接口、模型藏在云端的。前者可控性强，后者省心，选哪个取决于你对数据流向的要求。

按规模分：能在普通设备上跑的轻量模型，和需要集群支撑的旗舰模型。这两者的能力差距在简单任务上不明显，在需要多步推理的复杂任务上会拉开。

这份资料把这些维度归到"大模型分类"一节里统一讲，好处是你不会只记住一个维度就以为全懂了。实际选型时，往往是几个维度一起看：既要模态对得上，又要部署方式能接受，还要规模撑得住任务复杂度。

6. 什么时候该请它上场，什么时候请它下场

判断标准其实不复杂，就看两件事：这件事的容错空间有多大，以及结果需不需要一个能追溯的出处。

容错空间大、不需要出处的活，放手给它。起标题、改措辞、把一段混乱的笔记整理成条理清楚的纪要、给一段代码写注释、把一份长文档压成三点摘要、想出十个方案再自己挑一个——这些事它做得又快又好，你只需要在结果上做判断，不需要过程可追溯。

容错空间小、必须能追溯的活，别单独交给它。算财务数字、引用条款原文、报一个具体日期、回答"我们公司这项规定的第几条第几款是什么"——这些必须回到一手材料。模型可以帮你找到方向、缩小范围，但最后那一下核对不能省。

还有一个常被忽略的判断维度：这件事值不值得用模型。有些任务手工做五分钟就完了，为了用模型去调提示词、改输出、核对结果，反而花掉二十分钟。工具是用来省时间的，不是用来证明自己跟上了潮流。

我自己踩过最典型的一次坑，是让模型帮我核对一份材料里的数据。它给回来的版本读起来特别顺，格式也整齐，我扫了一眼就发出去了。后来对方指出其中两个数字对不上原表——它把相邻两行的数值串了。从那以后我每次用它处理带数字的内容，都强制走一遍"让它标出每个数字来自原文哪一句"的流程，标不出来的自己回去查。这个习惯多花几分钟，但省下的返工时间远不止几分钟。希望帮到你。

这套资料把从人工智能简史、人工智能思维，到大模型的概念、原理、特点、分类、应用领域、对工作生活的影响，再到本地部署和智能体，串成了一条完整的线，前面几章讲不清的地方，在里面都能找到对应的展开。想系统过一遍的话，把这份完整资料取来读一遍，比零散地刷几十条碎片信息扎实得多。

本文还有配套的精品资源，点击获取