企业级AI Agent开发:基于Qwen3.5-4B与自定义工具集成
企业级AI Agent开发基于Qwen3.5-4B与自定义工具集成1. 为什么企业需要智能Agent现代企业运营中重复性工作占据了大量人力成本。以我们接触过的某电商客户为例客服团队每天需要处理数百次天气查询和邮件通知这些工作看似简单却消耗了30%的有效工作时间。这正是AI Agent能够大显身手的场景。Qwen3.5-4B作为当前最先进的开源大模型之一其工具调用能力让构建智能助手变得前所未有的简单。不同于传统RPA只能执行固定流程基于大模型的Agent可以理解自然语言指令自主规划任务步骤并调用各类工具完成复杂工作流。2. 开发环境准备2.1 基础环境配置建议使用Python 3.9环境主要依赖库包括pip install transformers4.34.0 pip install fastapi uvicorn # 用于构建工具服务 pip install requests # 工具调用必备2.2 模型部署方案在星图GPU平台部署Qwen3.5-4B只需三个步骤登录控制台选择Qwen3.5-4B镜像配置GPU资源建议A10/A100点击部署获取API端点部署完成后会获得类似这样的访问地址https://your-instance.ai.csdn.net/v13. 构建天气查询邮件发送Agent3.1 定义工具功能首先需要明确Agent需要使用的工具。我们以两个典型办公场景为例天气查询工具def get_weather(location: str, date: str None): 获取指定地点的天气信息 :param location: 城市名称如北京 :param date: 可选查询日期默认当天 :return: 天气情况字符串 # 实际实现中这里调用天气API return f{location}今天晴气温25-32℃邮件发送工具def send_email(to: str, subject: str, content: str): 发送电子邮件 :param to: 收件人邮箱 :param subject: 邮件主题 :param content: 邮件内容 :return: 发送结果 # 实际实现中接入企业邮件系统 return f邮件已发送至{to}3.2 设计工具调用Prompt关键是要让模型理解工具的使用方式和调用规则。以下是经过验证的有效Prompt结构你是一个智能助手可以调用以下工具完成任务 工具列表 1. get_weather: 查询天气 - 参数: location(必填), date(选填) 2. send_email: 发送邮件 - 参数: to(必填), subject(必填), content(必填) 调用工具时请严格按以下格式响应 |startofthink| {function: 工具名, parameters: {参数1: 值1, ...}} |endofthink| 我会返回工具执行结果。请根据任务需求规划步骤必要时可以多次调用工具。3.3 实现执行逻辑闭环核心是构建模型决策→工具执行→结果反馈的循环import json from transformers import AutoModelForCausalLM, AutoTokenizer model AutoModelForCausalLM.from_pretrained(Qwen/Qwen3.5-4B) tokenizer AutoTokenizer.from_pretrained(Qwen/Qwen3.5-4B) def process_query(query): # 初始提示 messages [{role: system, content: prompt}, {role: user, content: query}] while True: response model.chat(tokenizer, messages) # 检测工具调用 if |startofthink| in response: tool_call json.loads(response.split(|startofthink|)[1].split(|endofthink|)[0]) # 执行工具 if tool_call[function] get_weather: result get_weather(**tool_call[parameters]) elif tool_call[function] send_email: result send_email(**tool_call[parameters]) messages.append({role: tool, content: result}) else: return response # 最终回复4. 实际应用案例演示假设用户提出复合请求查下北京天气然后发邮件告诉王总记得带伞Agent的执行过程如下识别需要先查询天气{function: get_weather, parameters: {location: 北京}}收到天气结果北京今天有雨气温20-25℃自动生成邮件内容并发送{function: send_email, parameters: { to: ceocompany.com, subject: 北京天气提醒, content: 王总您好北京今天有雨建议带伞出行。 }}整个过程无需人工干预Agent自动完成多步骤规划与执行。5. 进阶优化方向要让Agent真正达到企业级可用还需要考虑以下方面工具扩展性通过配置文件动态加载工具避免每次修改代码。可以创建一个tools目录每个工具对应一个.py文件自动注册到系统中。权限控制为不同工具设置访问权限。比如邮件发送工具可能需要主管审批才能调用可以在工具定义中添加权限标记。执行监控记录完整的工具调用历史包括参数、结果、耗时等便于后续审计和优化。建议使用SQLite或企业级日志系统存储这些数据。性能优化对于高频使用的工具可以添加缓存机制。比如天气查询结果可以缓存1小时减少API调用次数。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。