本文以信息化视角将大模型LLM视作黑盒文字系统通过比较不同应用模式下的输入提示词与输出成果解析智能问答、RAG、Agent、AgentMCP等模式的差异。文章强调无需深入理解LLM内部机制也能从使用角度把握不同场景下的LLM应用帮助读者更好地理解大模型的应用场景与实现逻辑。基础问答提示词系统指令用户输入一些最基础的问答场景中你会要求LLM模仿某种角色来回答用户的提问或者要求LLM根据用户的输入来生成相应的内容同时要求遵守某种结构进行生成答案并做一些限制比如不能随意发挥等。以上这些要求其实就对应LLM的系统提示词在Dify中配置界面大致如下上图system系统提示词就对应高阶指令它是用来告诉LLM要如何响应用户诉求要输出何种格式等等是由LLM应用开发者预先设置好的所以它被称之为system系统级指令而user提示词对应是用户实际输入信息。其底层实现逻辑可以这样理解以适配OpenAI的接口规范为例在这种最基础场景下具体访问LLM的输入参数结构是可以看到输入该服务的messages包括两部分组成一个是开发者提前设置好的role:system指令内容一个是用户实际输入问题role:user内容。既然通过信息化视角来理解那有输入就必然有输出进一步看看LLM服务的输出格式在choices/message结构内部role:assistant这个节点的作用是用来标记大模型输出信息为啥要这么标记下后面会讲然后才是具体LLM生成内容的content节点。多轮对话提示词增加上下文的输入以上是最基础的一次对话过程如果你还要反复进行追问也就是要实现多轮对话其底层实现逻辑是这样如图核心就是要把上一轮对话结果也作为提示词的一部分再次输入给LLM具体输入参数结构是之所以要把历史对话上下文再次输入给LLM是因为LLM本身是没有记忆的它永远是依据输入信息进行内容生成的所以为了实现多轮对话是需要智能体Agent负责做好上下文记忆并在下一轮对话时将前序对话内容也放到输入参数中。看到这里有同学就要问了反正就是把历史对话作为输入嘛那么LLM是不是可以无限制的多轮对话呢当然不行各种APP中通常都有对话轮数的限制有两个原因一是LLM都有tokens限制每轮对话都叠加前面对话的上下文后面会越来越长超过LLM的tokens限制就会被截断。二是即使有些LLM可以支持很大tokens甚至有百万级tokens的但你上下文对话信息很长时还是会干扰LLM的注意力就和人脑一样接收太多的输入就会很混乱这个时候它对你最新问题的回答就会产生偏差。RAG方式提示词增加知识的输入在以上利用LLM进行对话的基础上当你发现LLM缺少最新知识、或者缺乏某个行业领域内部知识时通常就需要采用RAG方案了RAG含义是知识检索增强也就是要通过检索外挂知识库来增强LLM的生成能力其底层实现逻辑是其核心就是要把知识检索到的内容也作为提示词的一部分输入给LLM对应输入参数结构是本质就是把检索到的知识片段也放到role:user的content中让LLM知道这些背景知识其实它们和用户直接输入信息本质是一样的所以还是用role:user这个类别对于LLM来说它压根不用知道知识库的存在。Tips并不是所有需要用到知识的地方都要使用向量化外挂知识库去做分片向量存储和语义相似度检索的也并不是LLM对向量知识库有什么特殊依赖这些组合方案都只是一种工程化范式而已。比如一些简单场景要用到固定的几条知识完全可以不用分片不向量化不用检索每次调用LLM时都自动附加到role:user中输入给LLM就可以了。调用工具提示词早期function方式在以上RAG的基础上如果你还需要在AI Agent中进一步调用工具比如要调用工具查询数据库比如要根据用户意图调用查询天气、订票的工具等其底层实现逻辑是其核心就是要把可以提供的工具描述信息也作为提示词的一部分输入给LLM对应输入参数结构是对应图中增加了一个functions输入节点来输入工具或函数的描述信息包括函数名称、和对应入参信息注意这里functions节点是个数组意味着可以输入多个可用的工具描述信息供LLM选择和判断。和前面几个小节略有不同的是之前system、user、assistant等role的输入都是在messages这个节点里面而这里funtions节点则是和messages节点同级并列。对于这种有工具描述的输入LLM会根据用户的问题自行判断是否需要调用工具以及要调用哪个合适的工具最终在LLM的输出信息中反馈要调用的工具其对应输出结构是和前面基础对话场景中LLM的输出结构做个对比可以看到对应的role还是assistant但content为null额外增加了funtion_call的节点。你的AI Agent中通过解析LLM反馈信息中funtion_call节点就可以得到要调用的函数名和要用到的参数值再去执行这个函数即可。后来改成tools方式以上是LLM早期的function call机制自从24年底Anthropic推出MCP协议以后各厂商最新推出的LLM经过强化训练后也都支持标准的工具调用模式其底层实现逻辑和上节funcnion call机制基本类似但具体输入参数结构有所调整输入结构看起来变化不大就是把functions节点换成了tools节点同样也是一个数组。但LLM的输出结构就变化比较大了输出结构中用tool_calls节点替代了function_call节点同时从原来输出单个function变为现在输出tool数组意味着LLM认为根据用户意图有可能需要调用一组工具所以通过数组方式输出。更复杂场景场下当你的AI Agent需要根据工具调用结果让LLM决策下一步的动作时也就是笔者之前在有关ReAct模式自主决策AI Agent文章中介绍的底层实现逻辑就需要将调用结果再次输入给LLM其对应输入参数结构是和前面提到的多轮对话场景的输入有点类似也是通过在role:assistant节点将上一轮LLM的输出结果反馈给LLM同时通过role:tool节点将工具实际调用结果信息再反馈给LLM。当然实际使用MCP框架时输入给LLM的tools数组不用手动组织了都是框架会自动从mcp server中拉取工具描述信息包括调用工具的环节也是在mcp client的sdk中封装好了。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包✅ 从零到一的 AI 学习路径图✅ 大模型调优实战手册附医疗/金融等大厂真实案例✅ 百度/阿里专家闭门录播课✅ 大模型当下最新行业报告✅ 真实大厂面试真题✅ 2026 最新岗位需求图谱所有资料 ⚡️ 朋友们如果有需要《AI大模型入门进阶学习资源包》下方扫码获取~① 全套AI大模型应用开发视频教程包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点② 大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通③ 大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。④ AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。⑤ 大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。⑥ 大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。以上资料如何领取为什么大家都在学大模型最近科技巨头英特尔宣布裁员2万人传统岗位不断缩减但AI相关技术岗疯狂扩招有3-5年经验大厂薪资就能给到50K*20薪不出1年“有AI项目经验”将成为投递简历的门槛。风口之下与其像“温水煮青蛙”一样坐等被行业淘汰不如先人一步掌握AI大模型原理应用技术项目实操经验“顺风”翻盘这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。以上全套大模型资料如何领取