一、聊天机器人简介说明表格涵盖聊天机器人核心定义、技术、搭建方式及各类模型分类知识点类别具体项目详细内容核心定义聊天机器人定义基于人工智能和自然语言处理技术开发的软件程序可通过文本或语音与用户交互模拟人类对话根据用户问题/指令生成回答或执行操作核心技术核心支撑技术人工智能、自然语言处理NLP、大语言模型LLM交互方式主要交互形式文本、语音主要功能核心功能回答问题、聊天陪伴、协助工作写作、计划等、智能客服、执行用户指令常见例子典型应用Siri、小爱同学、电商智能客服、AI对话助手搭建方式零代码平台搭建难度低代码要求无需代码成本低灵活性低适合人群新手、企业快速使用搭建方式调用AI大模型接口开发难度中代码要求少量代码成本中等灵活性较高适合人群有一定开发基础者搭建方式编程自主开发难度高代码要求大量代码成本高灵活性最高适合人群专业研发人员大模型按功能分类自然语言处理NLP模型处理文字信息可实现理解、生成、翻译、问答、对话等功能大模型按功能分类计算机视觉CV模型处理图像、视频信息可实现物体识别、人脸识别、图像生成、识图等功能大模型按功能分类语音模型处理声音信息可实现语音识别、语音合成、语音转文字等功能大模型按功能分类多模态模型同时处理文字、图片、音频、视频等多种信息实现跨模态交互与处理大语言模型LLM补充分类按能力/部署/规模按能力范围1. 通用大模型擅长通用对话、创作、翻译等如GPT、文心一言、通义千问2. 垂直领域大模型针对金融、医疗、法律等特定行业优化大语言模型LLM补充分类按能力/部署/规模按部署方式1. 开源大模型可免费下载、本地部署、二次开发如Llama、Qwen、Baichuan2. 闭源/商用大模型由公司提供API服务如GPT-4、Claude、文心一言大语言模型LLM补充分类按能力/部署/规模按模型规模1. 超大规模大模型千亿级参数能力强劲如GPT-4、Claude 32. 轻量/小模型轻量化部署适合手机、IoT等端侧设备二、ollama下载及环境配置及常用命令类别具体项目简单介绍优点缺点私有大模型本地部署整体特性私有大模型是基于开源或定制模型在本地设备PC/服务器部署的专属大模型可通过企业内部数据训练优化数据不联网主打隐私安全与自主可控适配敏感场景与个性化需求。1. 数据隐私安全数据不联网避免泄露适配敏感场景2. 自主可控可根据需求自定义训练、二次开发不受第三方平台限制3. 无网络依赖离线可使用不占用网络带宽响应速度稳定4. 个性化适配可针对性优化贴合自身使用场景如企业内部、个人需求1. 硬件成本高需高性能CPU、GPU显存充足硬件投入大2. 技术门槛较高部署、维护、优化需一定技术基础新手上手难度大3. 模型更新麻烦需自行下载、更新模型无法享受第三方平台的自动迭代4. 资源消耗大运行时占用大量内存、显存对设备配置要求高本地部署工具OllamaOllama是一款开源、轻量级的本地大模型部署工具核心是简化大模型本地运行流程通过命令行即可一键安装、启动、切换各类主流开源大模型适配多系统新手易上手。1. 部署简单操作便捷命令行一键安装、启动模型新手易上手2. 轻量高效体积小占用资源相对较少适配普通PC/服务器3. 支持模型丰富兼容Llama、Qwen、Baichuan等主流开源大模型可自由切换4. 开源免费无需付费可自由使用、二次开发无商业限制5. 跨平台支持适配Windows、Mac、Linux系统通用性强1. 功能相对基础缺乏复杂的可视化管理界面进阶功能如模型微调需额外配置2. 性能上限有限相比专业部署工具在大规模模型、高并发场景下性能稍弱3. 技术支持有限开源项目官方技术支持不足遇到问题需依赖社区解决4. 适配性局限部分超大规模大模型部署后稳定性不如专业部署框架一下载可以在官网上进行下载官网链接Ollama下载完成后打开命令提示符快捷键winR输入ollama -v出现具体版本号说明下载成功。这里如果存在更新提示的话可以更新一下二配置Ollama默认下载路径是在C盘所以我们需要修改一下模型的目录。设置完成后退出ollama重新打开这里ollama没有图标可以搜索打开重新启动ollama启动成功后ollama 在本地 11434 端口启动了一个 API 服务在浏览器搜索框里输入 http://127.0.0.1:11434 访问出现下面提示说明访问成功三常用命令1. 命令行中常见的命令① 下载运行命令ollama run qwen2.5:0.5b也可以用ollama pull qwen2.5:0.5brun下载后会运行pull下载完成后结束命令执行结果如下下载完成后直接进入qwen2.5 大模型同理再下载一个deepseek-r1:1.5b② 查看都有那些模型③ 查看模型详情参数、架构、描述等ollama show qwen2.5:0.5b④ 查看运行的模型ollamaps⑤ 复制备份模型给模型重命名ollamacpqwen2.5:0.5b2.5qwen⑥ 删除模型ollamarm2.5qwen2. 交互式对话中的命令首先先把模型打开①查看都有那些命令两个命令功能一样/?shortcuts /help② 查看模型信息/show③/动态切换模型/load deepseek-r1:1.5b④ 三引号多行输入你好 给我讲一个e 故事⑤ 清除上下文内容让大模型忘记自己说了什么/clear⑥退出/bye3. 单位:b(billion)补充对应 Ollama 里型号的参数对照表型号写法全称参数数量对应电脑配置0.5b0.5 Billion5亿参数CPU 就能跑内存 4G 以上就行秒回适合低配电脑、小服务器。1.5b1.5 Billion15亿参数很小、手机可跑7b7 Billion70亿参数内存 ≥8G 可跑有显卡显存≥4G更流畅。日常聊天、写代码、问答最常用14b14 Billion140亿参数建议显存 ≥6G 或内存 ≥16G。32b32 Billion320亿参数需要好显卡显存 ≥10G、16G 以上一般是高配电脑/工作站。70b70 Billion700亿参数需要好显卡显存 ≥10G、16G 以上一般是高配电脑/工作站。三、Apifox的下载及配置下载链接Apifox一直点击下一步注意安装路径即可下载完后打开Apifox及Ollama打开Ollama后要确保Ollama是打开的这里只简单说明一下Apifox的用法对这个软件有个基础印象现在掌握下面四个必需参数即可四、Chatbox的下载及配置下载链接Chatbox一直点击下一步注意安装路径即可安装完成后打开按照上述步骤配置完成后就可以开始聊天。五、Pycharm 安装及配置一 pycharm-professional-2023.2.5下载本文下载2023.2.5版本可以参考这篇2024新版PyCharm下载安装教程(详细步骤)百度网盘链接https://pan.baidu.com/s/1yMuUZ9g_tR2v7bDLobV4tA?pwd7yvy 提取码: 7yvy二下载Python这里直接在Python官网下载(下载3.8以上即可博主下载的Python 3.9.12以及Python 3.11)Python官网可参考详细教程Python安装与环境配置全程详细教学包含Windows版和Mac版三配置及项目创建