文章深入剖析了 Agent 的工作原理核心在于 LLM大语言模型与 Harness工程躯干的结合。LLM 负责预测下一个词元但需要 Harness 提供接口、工具、记忆和执行环境使其从被动对话转向主动任务执行。文章详细解释了 Token、Prompt、Context 的作用以及 Scaling Law 和 Emergence 如何推动模型能力跃迁。最终LLM 通过 Harness 实现自主完成多步任务开启 AI 新时代。文章目录前言一、先说结论Agent LLM Harness1.LLM 是大脑2.Chatbot 与 Agent 的区别3.Harness从马具到工程躯干4.Harness 的两层结构二、LLM 基础只会接话的语言模型1.Token最小语言处理单元2.Prompt操控输出的方向盘3.Context模型当下能看见的世界4.上下文窗口与迷失在中间三、Scaling Law大力出奇迹的科学依据1.从直觉到定律Scaling Law 的诞生2.Scaling Law 到头了吗3.Chinchilla Law胃容量与食物量的等比法则四、Emergence量变引发质变1.涌现不是 AI 独有2.GPT-3规模即能力3.Google 正式确立涌现4.六项核心涌现能力五、从 LLM 到 Agent 的发展脉络六、总结结尾前言你可能也刷到过 Claude Code、Codex、Manus 这些名字也听人讲AI Agent 是未来。但真要追问一句——Agent 到底是什么它和你天天用的 ChatGPT 有什么本质区别为什么同样是大模型有的只是陪你聊天有的却能读文件、改代码、跑命令、持续完成任务说实话我之前也说不清楚。天天用 AI 写代码、查资料、做总结自以为很懂但当我试图向团队解释为什么我们需要 Agent 架构时才发现自己只停留在能对话的层面对底层原理一知半解。如果你也和我一样对 Agent 本身充满好奇那这篇文章就是为你写的。我不会一上来就堆术语定义而是沿着 Agent 出现的历史脉络往前推——先把 LLM 这个大脑本身拆清楚它如何产出文字为什么提示词能改变生成结果为什么上下文窗口框定了模型当下的视野以及为何参数规模突破某个阈值后推理、编程、翻译这些高阶技能会突然冒出来。只有先夯实这一层后面再聊 Chatbot、Prompt Engineering、Context Engineering乃至 Agent 和 Harness才不会变成时髦词的堆叠。准备好了吗让我们沿着这条路走一遍。一、先说结论Agent LLM Harness在工程实现层面我们可以先记住一个公式Agent LLM Harness什么意思逐个拆开理解。1.LLM 是大脑LLM大语言模型唯一的工作就是猜下一个字最可能是什么。就像你用手机输入法打出今天天气真它马上推荐好“不错”——只不过 LLM 的联想能力比输入法高出几个量级。但这个大脑有嘴没手不能自己操作文件、运行命令也不会在模型内部长期保存任务状态。2.Chatbot 与 Agent 的区别我们日常用的 AI 产品底层都有一个 LLM。能对话是因为产品方给这个大脑套上了聊天界面相当于装了一张嘴于是它变成了 Chatbot聊天机器人。但 Chatbot 的交互模式基本停留在你问一句它回一句。Agent 则完全不同——它在 LLM 的大脑/嘴之外加上了手脚、工具、记忆、执行环境、权限和反馈回路。维度ChatbotAgent核心能力对话、问答自主执行多步骤任务工具使用❌ 无✅ 可调用文件系统、终端、API记忆❌ 仅限当前对话✅ 跨会话持久化记忆自我纠错❌ 一次性输出✅ 观察结果→调整→再执行反馈回路❌ 无✅ 写→跑→看→修→再来Agent 不止于说更能做不止于做一步更能根据执行结果自我调整继续推进。它更像是一个 LLM 大脑被装进了一套能行动、能观察、能记忆、能验证、能受控的工程躯干里。3.Harness从马具到工程躯干Harness 泛指 LLM 之外的那层壳——嘴、手脚、工具、记忆、执行环境等配套设施的总和。英文Harness本意是马具——套在马身上让它能拉车、干活的一整套装备缰绳、马鞍、马蹄铁等。这个词用在 AI Agent 上生动地说明模型好比一匹烈马Harness 就是把原始的模型能力驯服和引导为可控、可靠的生产力的那套缰与鞍。⚠️ 这不是最严格的定义而是业内广泛形成共识的一种直觉好用的理解框架。LLM 负责推理和生成Harness 负责把它接入真实世界。Agent 指被 Harness 包裹着的 LLM。4.Harness 的两层结构以当下最主流的 Coding Agent——Claude Code 为例Harness 可以拆成两层层级名称定位典型内容Builder Harness系统底层执行层给 LLM 执行用的基础设施Agent 底层定义System Prompt、文件系统、终端沙箱、工具调用User Harness用户层约束层规范用户使用 Agent 完成特定任务CLAUDE.md 中的编码规范、项目约定、工作流Claude Code 是 Anthropic 推出的 agentic coding tool。套用本文框架来拆它把 Claude 这个 LLM 对接到代码仓库、Shell、文件系统、工具链和反馈闭环——让它从只会说跃迁到真能干的决定性因素不是模型本身而是包裹在模型外面的那层工程外壳。LLM 到 Agent 之间并不是直接跳过去的Harness 也不是一蹴而就的。为什么一个原本只会接话的语言模型后来竟然能读代码、改文件、跑命令、看报错、继续修复这件事得先回到 LLM 的底层机制说起。二、LLM 基础只会接话的语言模型1.Token最小语言处理单元LLM 的底层架构基于 Transformer运行模式为自回归——通俗讲就是逐词往下续写。一句话概括拿到已有文本计算下一个词元Token的概率分布挑一个追加到末尾再重复此过程。这个机制决定了关于 LLM 的一切——本质上就是根据上文预测下一个 Token。关于 LLM有三个必须搞清的基础概念Token、Prompt 和 Context。Token 是什么LLM 无法直接处理原始文字——本质还是机器。在真正处理之前文本会先被分词器切成一个个最小处理单元——Token。Token 不是完整的词而是子词或字符片段。中文里一个字或一个词、英文里一个单词或单词片段都可能被拆成 Token。比如unbelievable可能被切成 [“un”, “believe”, “able”]。为什么不直接用字母或完整词做 Token核心是平衡词汇量大小和序列长度方案问题以字母为单位语义单元太小——把 “like” 拆成 [“l”,“i”,“k”,“e”]模型完全无法判断这是喜欢“像还是爱好”字母本身几乎没有语义以完整词为单位词表会膨胀到百万级——eat/eats/eating/eaten 被当成四个毫无关联的新词无法理解它们共享同一个核心动作子词分词法BPE✅ 复用词根几千个积木覆盖几十万词的全部变化子词分词法的妙处把 “unbelievable” 拆成 [“un”, “believe”, “able”]“eating” 拆成 [“eat”, “ing”]——模型既能抓到核心含义来自 eat 和 believe又能借助 “ing”、“un”、“able” 这类共享积木理解时态和语气。几千块积木就能拼出几十万英文单词的全部变形。实际效果你输入给 LLM 的任何话都会先被分词器切成一串 Token每个 Token 底层有一个专属 ID——就像字典上每个词的编号。模型预测下一个词本质就是预测下一个 Token 的 ID。Token 经济学Token 已是公认的最基础 AI 花销计量单位。管理 AI 成本的核心本质上就是在分配 Token 预算。如今Token 经济学已经成型并爆火大量厂商和个人在 Token 的倒买倒卖中试图分一杯羹各种 Token 套餐层出不穷——其中不乏吃相较难看的……2.Prompt操控输出的方向盘如果上文是空的模型就寸步难行。这个初始输入就是Prompt提示词。从数学角度简单理解Prompt 就是你给模型提供的条件概率的前置条件。模型看到 Prompt 请用李白的风格写一首咏月的诗之后它内部计算可以简化为P(下一个词 | “请用李白的风格写一首咏月的诗”)模型在训练时读过无数诗词、无数指令学到的模式是当上文出现李白“风格”诗这些词时后续大概率会是古诗体、带李白特色的词汇。Prompt 的本质就是通过改写上文来操控模型预测的条件分布。提示词稍有变化前置条件就变了输出的概率分布就可能显著偏移——“写一首诗和请创作一首七言绝句”条件不同生成路径就分叉了。这也为后来 Prompt Engineering 的兴起埋下了伏笔。3.Context模型当下能看见的世界模型在生成每个新 Token 时都会回顾之前见过的所有内容。这个被回顾的整个上文——包括提示词、历史对话、模型自身的输出——就是Context上下文。训练时学到的参数化知识之外裸模型在一次对话中不具备真正的长期记忆也不天然联网。当然产品方可以在模型外挂载记忆库、搜索引擎、数据库等模块但对模型本身而言它当下能直接加工的仍然只有被塞进上下文窗口里的内容。这个回顾的能力来自 Transformer 的核心数学特性——自注意力机制Self-Attention。简单理解让句子中的每个词都能和上下文里所有其他词打招呼计算出一个注意力权重判断谁对自己最重要。2017 年Google 抛出论文《Attention Is All You Need》Transformer 架构横空出世彻底改写了 NLP 的规则——它放弃了沿用多年的循环神经网络RNN完全依赖注意力机制就拿到了更强的效果和更高的训练吞吐。时至今日几乎所有大语言模型都建立在 Transformer 这个底座之上。4.上下文窗口与迷失在中间模型能看无限长的上下文吗不能——这就引出了**上下文约束Context Constraint**的来源。标准全量自注意力的计算复杂度与 Token 数量相关呈O(n²)增长——Token 越多计算量平方级膨胀。现实中长上下文模型会通过 KV cache、分块、稀疏注意力等工程优化来缓解但上下文越长成本和难度越高这个基本约束没有消失。所以系统必须设定一个最大长度上限这就是上下文窗口Context Window。没被放进窗口的内容模型在当前推理里就看不见等同于从未存在。上下文窗口的演变我用一张表帮你建立直觉阶段窗口大小类比 便利贴≤4K巴掌大的纸聊几句就得擦掉重写 说明书32K能摊开一份产品手册或几十页合同️ 工作台128K–200K能装下《三体》第一部像个读过所有资料的同事️ 图书馆1M–10M一次性摆满整个哈利·波特系列或整个代码仓库⚠️一个关键的但是桌面大了不等于什么都能精准定位就像把一本几百页的书摊开在巨大的工作台上——内容全在眼前但你的注意力天然更集中在书的开头和正在读的那一页中间摊开的部分很容易一眼扫过就忽略。模型也一样——即便上下文窗口不断扩大它仍然对文档首尾的信息提取最准确中间部分则容易视而不见。这便是**“迷失在中间”Lost in the Middle效应**LLM 的一个重要已知缺陷。 所以上下文工程的核心不是换一张更大的桌子而是学会在这张桌面上把最关键的信息永远放在模型注意力最集中的位置。哪怕窗口已经扩到百万级 Token精心编排提示词和检索策略仍然不可省略——否则重要信息照样被淹没。三、Scaling Law大力出奇迹的科学依据一个只会词语接龙的统计模型怎么就会写诗、翻译、写代码了它真的理解了语言还是只是在背诵解开这个谜题的关键在于两个概念Scaling Law规模法则和Emergence涌现。1.从直觉到定律Scaling Law 的诞生Anthropic 联合创始人 Dario Amodei 的职业轨迹恰好是 Scaling Law 从萌芽到成熟的缩影。他早年在百度硅谷 AI 实验室做语音识别研究与当时的百度首席科学家吴恩达共事。后来在访谈中他回忆正是在那些语音训练实验里他捕捉到了一个早期信号数据量增加、模型扩大、训练时长拉长之后性能呈现出显著且持续的上行趋势。这仍然只是访谈里的个人回忆不是正式论文结论但它帮助我们理解 Scaling Law 思想出现的早期背景。时间事件意义2017年百度研究院发表《Deep Learning Scaling is Predictable, Empirically》首次实证深度学习性能与规模因素呈可预测的幂律关系2020年OpenAI 发表《Scaling Laws for Neural Language Models》正式确立投入多少资源模型可预测地变好多少故事的高潮出现在 2020 年的 OpenAI。彼时 Dario Amodei 已从百度转投 OpenAI 担任研究副总裁。研究团队训练了几十种不同参数规模的模型随后将性能数据画到对数坐标图上——一条几乎完美的直线浮现出来。据此OpenAI 抛出了那篇后来被反复引用的论文《Scaling Laws for Neural Language Models》给出了精准结论语言模型的最终表现跟投入的算力、训练语料体量、参数规模三者之间横跨 7 个数量级维持着极度稳定的幂律关联。换句话说他们用相对严格的数理方式证明了一条炼金术公式你投入多少资源模型就会可预测地变好多少。这条规律后来被冠以大名鼎鼎的Scaling Law规模法则。它从一段模糊的直觉蜕变为指引整个大语言模型行业发展的第一性原理也成了军备竞赛的理论基石。Dario Amodei 本人正是怀着对这一规律的坚定信仰不久后离开 OpenAI 创办了 Anthropic。这给全行业注入了信心在相当大的范围内持续堆料——更多参数、更多语料、更多算力——模型效果就会沿着可预见的曲线攀升。虽然不等于堆料必胜但足以把大模型训练从押宝赌博推进到有据可依的工程投入。大模型竞赛的序幕由此拉开。2.Scaling Law 到头了吗从 AI 爆发以来Scaling Law 是否到头始终争论不休。前段时间张小珺采访姚顺宇《独家对话姚顺宇请允许我小疯一下》后者给出了一组基于一线模型研究的判断注意访谈观点非论文结论维度判断 理论上未见顶——作为经验定律的 Scaling Law 依然有效潜力巨大 实践上多 Bug——所谓撞墙大多是执行层面的问题掩盖了真实进步️ 未来上靠系统——个人英雄红利消失未来 AI 的突破将取决于能否构建一个靠谱的集体系统姚顺宇出身理论物理先后在 Anthropic 和 Google DeepMind 从事模型研究。他的判断折射出一线研究者的重要共识规模本身并未失效瓶颈出在工程系统能否把理论潜力真正兑现。️一个超级胃的类比不妨用一个超级胃的类比来理解如果把 Scaling Law 看作一台不知疲倦的消化机器它的终极目标就是吃遍全网数据然后变得无比强壮聪明。那现实是——地球上能采集到的天然食材人类互联网公开语料大概率已经被 AI 消耗殆尽了。虽然 Scaling Law 本身大概率还没走到尽头但越吃越壮的边际收益在递减这一点大家已真切感受到。既然吃新菜的收益在下滑那就换烹饪方式阶段做法对应技术旧阶段 狼吞虎咽——比拼吃得多预训练堆数据、堆参数新阶段 细嚼慢咽——换烹饪方式推理时计算思考更久、合成数据自造食材、Agent Scaling派助手找菜谱Scaling 的本质——投入更多资源去压缩更多信息——从未改变只是投入的资源从单纯的数据量变成了思考的时间和合成的创造力。3.Chinchilla Law胃容量与食物量的等比法则OpenAI 的 Scaling Law 让行业更有信心继续扩大参数和数据规模直接推动了 GPT-31750 亿参数这样的超大模型出现。但 2022 年 Google DeepMind 的Chinchilla研究带来了颠覆性观点在一定算力预算下许多模型其实是营养不良的——胃很大但食物不够多。胃容量和食物数量应该等比增加才能达到最佳性价比。对比参数量训练数据量最终表现Gopher2800 亿较少较差Chinchilla700 亿4 倍多✅ 更优Chinchilla 模型虽然参数只有 Gopher 的四分之一但因为吃了 4 倍多的数据最终表现反而更优。Chinchilla Law的核心建议模型参数与训练 Token 数的理想比例约为1:20才能在特定算力预算下实现效果最大化。这就像健身光练大肌肉参数不行营养数据也得跟上而且要等比增长。四、Emergence量变引发质变Scaling Law 解释了大模型效果稳步上行但更让人震撼的现象还在后面——当参数从几千万膨胀到百亿、千亿量级某些在小模型上完全不存在的智能行为竟然在超大模型上自发浮现。这些能力从未被专门训练过——训练目标始终只有预测下一个 Token——但它们就是冒出来了如同水温升到沸点骤然翻滚。研究者借用了复杂科学里的一个古老词汇来命名——涌现Emergence。所谓涌现就是量变引发质变。涌现能力指的是小规模模型中不存在、但在大规模模型中才出现的能力。1.涌现不是 AI 独有涌现这一概念并非 AI 首创它的根基扎在复杂系统科学里。诺贝尔物理学奖得主菲利普·安德森曾留下一个经典论断——“多者异也”More is different——精确刻画了这种规律大量简单组件按照简单规则交互当规模越过某个门槛整体就会呈现出任何单一组件都无法预示的全局新特征。涌现为何会发生学界目前对 LLM 涌现原理的研究正处于活跃期但尚无统一的严格证明——本质上对复杂系统涌现现象做出解释性论证本身难度就极高。不过这并不妨碍我们先理解和利用它。一些来自自然界的类比系统个体行为涌现的宏观属性 水单个 H₂O 分子既没有湿的感觉也没有流动的特性湿润和流动这些全新的宏观属性涌现了出来 蚁群单个蚂蚁行为极其简单种植真菌、饲养蚜虫等农业文明——解剖任何一只蚂蚁都找不到负责这些行为的基因 神经网络单个参数只是数字推理、翻译、写代码——当拥有足够多的蚂蚁全新的协作方式让智慧悄然诞生2.GPT-3规模即能力2020 年OpenAI 发表了里程碑论文《Language Models are Few-Shot Learners》介绍了拥有1750 亿参数的 GPT-3。这篇论文的关键价值不在于架构创新而在于用实验数据印证了一个震撼结论“规模即能力”。当参数量冲到 1750 亿这个前所未有的量级一种此前从未显现的技能被解锁了——无需对任何下游任务做微调不更新任何参数仅在输入里给出三两个示例few-shot prompting模型就能在翻译、问答、算术、单词重组等数十项 NLP 评测中拿到与当时最优专用模型旗鼓相当甚至更优的分数。这种在 GPT-2 时期就已初露端倪的能力到 GPT-3 才真正变得强大且稳定。学术界后来把它命名为**“上下文学习”In-Context Learning**。比如你想让它把英文翻译成法文不用重新训练模型直接在输入里写英文: Hello → 法文: Bonjour 英文: Thank you → 法文: Merci 英文: Good morning → 法文:模型看到这两个示例马上识别出翻译模式然后正确接上 Bonjour。GPT-3 论文的真正价值不在于首创了上下文学习而是在超大规模上系统验证了这种能力的强度与通用性——由此开创了预训练 提示词的全新范式让 AI 从每个任务都要单独训练的专用工具蜕变为靠上下文就能接手新任务的通用助手。3.Google 正式确立涌现GPT-3 让全世界目睹了这种奇异现象但真正把涌现这个概念在大模型领域确立下来的是 Google 团队 2022 年发表的论文《Emergent Abilities of Large Language Models》。研究团队系统考察了 GPT-3、Gopher、LaMDA 等一系列不同规模的模型得出了关键结论模型表现跟规模之间并非线性递增关系而是存在一个临界拐点——只有参数量突破特定阈值才会激活小模型完全不具备的新能力。这是涌现现象首次获得大规模系统性实证支撑。涌现能力很难通过外推小模型表现来预测这意味着继续扩大规模有望进一步拓宽能力边界。论文中部分任务显示能力跃迁大致出现在接近10²² 次训练浮点运算的量级附近——但这并非所有能力共享的统一开关不同任务、数据集和评估方式都会影响拐点的具体位置。4.六项核心涌现能力除了上下文学习后续研究者还整理过大量被观察到的涌现能力。Jason Wei 曾整理了137 项涌现能力。我挑最核心的六个方向① 上下文学习In-Context Learning无需微调给几个示例就会新任务——GPT-3 的核心突破。② 思维链Chain-of-Thought最著名的涌现能力。小模型像毛躁的孩子问小明有 5 个苹果给了小红 2 个又买了 3 个还剩几个直接瞎猜。但大模型会自己写出步骤5 - 2 3 3 3 6 答案6③ 算术推理Arithmetic Reasoning小模型勉强做112大模型突然能处理三四位数加减乘除、甚至混合运算——不是背下了所有算术题题目无限而是涌现出了对十进制“进位”运算规则的抽象理解。④ 代码生成Code Generation把写一个 Python 程序把列表里所有偶数挑出来喂给大模型直接吐出可运行代码甚至能理解有 bug 的代码并指出错误。编程语言是极度严谨的形式语言小模型只能模仿代码外观大模型涌现出了对算法、逻辑控制流的深层表征能力。⑤ 跨语言翻译Multilingual Translation即使训练数据里没有中文-斯瓦希里语的平行对照大模型也能直接翻译。因为它在海量多语言训练中无监督地构建了一个语义中间层——不管什么语言核心语义在高维空间里被拉到相近位置。一旦语义巴别塔建成跨语种翻译自然涌现。⑥ 多任务语言理解MMLU涵盖 57 个学科的超级大考卷——数学、物理、历史、法律、医学、伦理。小模型得分接近瞎蒙大模型在所有学科上展现高正确率——不是某个科目的死记硬背而是学会了如何根据上下文调用背景知识来推理。六项对比一览能力小模型大模型涌现关键突破上下文学习需微调才能做新任务给几个示例即可无需更新参数思维链直接猜答案分步写出推理过程从一步到位到分步推导算术推理勉强做 11三四位数混合运算抽象理解运算规则代码生成模仿代码外观生成可运行代码理解逻辑控制流跨语言翻译只能翻译训练过的语对零样本跨语言翻译构建语义中间层多任务理解瞎蒙水平57 学科高正确率学会调用背景知识推理⚠️一个关键认知能力涌现 ≠ 智能涌现更严谨地说LLM 目前所展现的是可以被观察和评估的**“能力涌现”Emergent Abilities而非已经获得严格证明的智能涌现Emergent Intelligence**。两者绝不能混为一谈。不过这并不妨碍我们去利用它。就像 18 世纪的物理学家尚未参透热力学的微观本质却已经驾着蒸汽机改写了世界——今天我们对大模型的驾驭恰好站在相似的历史节点上。五、从 LLM 到 Agent 的发展脉络尽管涌现的底层原理尚未完全探明但它已经催生了一种全新的应用范式Prompt 本身成了给模型编程的接口。这意味着接触 AI 的门槛从必须懂模型训练断崖式降到了只需会组织语言。正是这一转变让大模型从实验室走进了每个普通人的日常——Prompt Engineering 随之爆发ChatGPT 这样的现象级产品也因此埋下了火种。但 Chatbot 只是第一步。完整的发展脉络是阶段核心能力边界 LLM预测下一个 Token只能接话没有手脚 ChatbotLLM 聊天界面能对话但你问一句它答一句✍️ Prompt Engineering优化提问方式输出质量有提升但仍是一次性生成 Context Engineering优化上下文组织把资料、历史、规则、工具结果有效注入但无行动力 AgentLLM Harness能调用工具、观察结果、继续行动自主完成多步任务关键转折在最后一步一旦 LLM 从被动应答转向主动调用工具、观察执行结果、持续推进任务Agent 的问题才真正浮现。把 LLM 变成 Agent 的那套工程体系正是 Harness。这条从 LLM → Chatbot → Prompt Engineering → Context Engineering → Agent 的演进路径不是跳过去的是一步步走出来的。下一篇我们从 Chatbot、提示词工程和上下文工程展开继续看这个会说话的大脑是怎样一步步走向能行动的 Agent。六、总结用一段话浓缩全文核心LLM 底层运行逻辑基于已有文本推算下一个词元。词元定义了语言处理方式提示词决定了生成起点上下文框定了模型可见范围。规模法则与涌现则回答了另一个核心问题——为何一个只会接话的系统参数突破百亿后竟然解锁了推理、编程、翻译等高阶技能。此后的发展路径清晰大脑套上聊天界面变成 Chatbot人们发现提问技巧影响输出质量提示词工程应运而生再进一步认识到整段上下文的组织才是关键。而一旦 LLM 从被动应答转向主动调用工具、观察反馈、持续推进任务Agent 的时代才算真正开启。下一次在调试 Agent 表现时别急着换更强的模型。先看看 Harness 那一层——文件系统完善吗沙箱安全吗记忆机制在工作吗上下文腐烂了吗也许答案就在那里。假如你从2026年开始学大模型按这个步骤走准能稳步进阶。接下来告诉你一条最快的邪修路线3个月即可成为模型大师薪资直接起飞。阶段1:大模型基础阶段2:RAG应用开发工程阶段3:大模型Agent应用架构阶段4:大模型微调与私有化部署配套文档资源全套AI 大模型 学习资料朋友们如果需要可以微信扫描下方二维码免费领取【保证100%免费】配套文档资源全套AI 大模型 学习资料朋友们如果需要可以微信扫描下方二维码免费领取【保证100%免费】