Qwen-Agent 完整架构分析#
1. 全局架构概览#
1.1 宏观架构视图#
graph TB
subgraph "用户接入层 (User Access Layer)"
WebUI[Web 界面<br/>Gradio UI]
BrowserExt[浏览器扩展<br/>Chrome Extension]
PythonSDK[Python SDK<br/>直接调用]
HTTPAPI[HTTP API<br/>RESTful 接口]
CLI[命令行工具<br/>CLI Interface]
end
subgraph "服务网关层 (Service Gateway Layer)"
LoadBalancer[负载均衡器<br/>Nginx/HAProxy]
RateLimiter[限流器<br/>Token Bucket]
AuthMiddleware[认证中间件<br/>API Key 验证]
CORS[跨域处理<br/>CORS Middleware]
end
subgraph "应用服务层 (Application Service Layer)"
AssistantSrv[助手服务<br/>:7863]
WorkstationSrv[工作站服务<br/>:7864]
DatabaseSrv[数据库服务<br/>:7866]
StaticSrv[静态文件服务<br/>代码执行结果]
end
subgraph "智能体编排层 (Agent Orchestration Layer)"
AgentFactory[智能体工厂<br/>Agent Factory]
AgentRouter[智能体路由<br/>Agent Router]
AgentPool[智能体池<br/>Agent Pool]
SessionManager[会话管理<br/>Session Manager]
end
subgraph "核心智能体层 (Core Agent Layer)"
Assistant[Assistant<br/>通用助手]
ReActChat[ReActChat<br/>推理行动]
ArticleAgent[ArticleAgent<br/>文章写作]
GroupChat[GroupChat<br/>多智能体协作]
CustomAgent[CustomAgent<br/>自定义智能体]
end
subgraph "能力支撑层 (Capability Support Layer)"
LLMModule[LLM 模块<br/>模型调用]
ToolsModule[工具模块<br/>功能扩展]
MemoryModule[记忆模块<br/>RAG 检索]
GuiModule[界面模块<br/>UI 组件]
end
subgraph "基础设施层 (Infrastructure Layer)"
ConfigManager[配置管理<br/>Config Manager]
LoggingSystem[日志系统<br/>Structured Logging]
MonitoringSystem[监控系统<br/>Metrics & Alerts]
CacheSystem[缓存系统<br/>Redis/Memory]
FileSystem[文件系统<br/>Local/S3]
end
subgraph "外部服务层 (External Service Layer)"
DashScopeAPI[DashScope API<br/>阿里云大模型]
OpenAIAPI[OpenAI API<br/>GPT 模型]
LocalLLM[本地 LLM<br/>vLLM/Ollama]
SearchEngine[搜索引擎<br/>Bing/Google]
VectorDB[向量数据库<br/>Milvus/Weaviate]
end
%% 连接关系
WebUI --> LoadBalancer
BrowserExt --> LoadBalancer
PythonSDK --> AgentFactory
HTTPAPI --> LoadBalancer
CLI --> AgentFactory
LoadBalancer --> RateLimiter
RateLimiter --> AuthMiddleware
AuthMiddleware --> CORS
CORS --> AssistantSrv
CORS --> WorkstationSrv
CORS --> DatabaseSrv
AssistantSrv --> AgentRouter
WorkstationSrv --> AgentRouter
DatabaseSrv --> SessionManager
AgentRouter --> AgentPool
AgentPool --> Assistant
AgentPool --> ReActChat
AgentPool --> ArticleAgent
AgentPool --> GroupChat
Assistant --> LLMModule
ReActChat --> ToolsModule
ArticleAgent --> MemoryModule
GroupChat --> GuiModule
LLMModule --> DashScopeAPI
LLMModule --> OpenAIAPI
LLMModule --> LocalLLM
ToolsModule --> SearchEngine
MemoryModule --> VectorDB
ConfigManager --> LoggingSystem
LoggingSystem --> MonitoringSystem
MonitoringSystem --> CacheSystem
CacheSystem --> FileSystem
1.2 分层架构详解#
| 层级 |
职责 |
核心组件 |
技术栈 |
| 用户接入层 |
多渠道用户交互 |
Web UI, Browser Extension, SDK |
Gradio, JavaScript, Python |
| 服务网关层 |
流量控制与安全 |
负载均衡, 限流, 认证 |
Nginx, Redis, JWT |
| 应用服务层 |
业务服务提供 |
助手服务, 工作站服务 |
FastAPI, Gradio, uvicorn |
| 智能体编排层 |
智能体生命周期管理 |
工厂模式, 路由分发 |
Python, 设计模式 |
| 核心智能体层 |
智能体核心逻辑 |
各类智能体实现 |
Python, 继承多态 |
| 能力支撑层 |
核心能力模块 |
LLM, Tools, Memory |
Python, 插件架构 |
| 基础设施层 |
系统基础服务 |
配置, 日志, 监控 |
Python, 标准库 |
| 外部服务层 |
第三方服务集成 |
大模型API, 搜索引擎 |
HTTP, gRPC |
2. 核心执行时序图#
2.1 完整对话处理时序#
sequenceDiagram
participant U as 用户
participant W as Web界面
participant G as 网关层
participant S as 服务层
participant A as 智能体层
participant L as LLM层
participant T as 工具层
participant M as 记忆层
participant E as 外部服务
Note over U,E: 用户发起对话请求
U->>W: 发送消息 + 文件
W->>G: HTTP 请求
G->>G: 认证 & 限流
G->>S: 路由到服务
Note over S,A: 服务层处理
S->>A: 创建智能体实例
A->>A: 消息预处理
A->>M: 检索相关知识
Note over M,E: 记忆层检索
M->>M: 文档解析 & 分块
M->>E: 向量化查询
E-->>M: 返回相似文档
M->>M: 重排序 & 筛选
M-->>A: 返回知识片段
Note over A,L: 智能体推理
A->>A: 知识注入
A->>L: 调用 LLM
L->>E: 发送 API 请求
E-->>L: 返回响应
L-->>A: 解析响应
Note over A,T: 工具调用处理
alt 需要工具调用
A->>A: 检测工具调用
A->>T: 执行工具
T->>E: 调用外部服务
E-->>T: 返回工具结果
T-->>A: 格式化结果
A->>L: 继续对话
L->>E: 发送请求
E-->>L: 返回最终响应
L-->>A: 完整响应
end
Note over A,U: 响应返回
A->>A: 响应后处理
A-->>S: 流式返回
S-->>G: 转发响应
G-->>W: HTTP 响应
W-->>U: 更新界面
Note over S,M: 会话保存
S->>M: 保存对话历史
M->>M: 更新会话状态
2.2 智能体对话完整流程#
sequenceDiagram
participant User as 用户
participant WebUI as Web界面
participant Agent as 智能体
participant Memory as 记忆系统
participant LLM as 大语言模型
participant Tool as 工具系统
participant FileSystem as 文件系统
User->>WebUI: 发送消息 + 文件
WebUI->>Agent: 调用 run(messages)
Note over Agent: 消息预处理
Agent->>Agent: 格式转换 & 语言检测
Agent->>Agent: 注入系统消息
Note over Agent: RAG 检索阶段
Agent->>Memory: 提取文件列表
Memory->>FileSystem: 读取文档内容
FileSystem-->>Memory: 返回文档数据
Memory->>Memory: 文档分块 & 向量化
Memory->>Memory: 相似度检索
Memory-->>Agent: 返回相关知识片段
Note over Agent: 知识注入
Agent->>Agent: 格式化知识内容
Agent->>Agent: 注入到系统消息
Note over Agent: LLM 调用阶段
Agent->>LLM: 发送消息 + 函数定义
LLM-->>Agent: 返回响应（可能含工具调用）
Note over Agent: 工具调用处理
alt 包含工具调用
Agent->>Agent: 检测工具调用
Agent->>Tool: 执行工具
Tool->>FileSystem: 访问文件/执行代码
FileSystem-->>Tool: 返回结果
Tool-->>Agent: 返回工具结果
Agent->>Agent: 添加工具结果到历史
Agent->>LLM: 继续对话
LLM-->>Agent: 返回最终响应
end
Note over Agent: 响应处理
Agent->>Agent: 格式化响应
Agent-->>WebUI: 流式返回响应
WebUI-->>User: 实时更新界面
2.3 HTTP API 处理流程#
sequenceDiagram
participant Browser as 浏览器扩展
participant FastAPI as HTTP服务
participant Process as 后台进程
participant Memory as 记忆模块
participant FileSystem as 文件系统
participant MetaDB as 元数据存储
Note over Browser: 用户浏览网页
Browser->>FastAPI: POST /endpoint<br/>{task: "cache", url: "...", content: "..."}
Note over FastAPI: 请求路由
FastAPI->>FastAPI: 解析请求类型
FastAPI->>Process: 启动缓存进程
FastAPI-->>Browser: 返回 "caching"
Note over Process: 异步处理
Process->>FileSystem: 创建目录结构
Process->>FileSystem: 保存页面内容
Process->>MetaDB: 更新状态为 "[CACHING]"
Process->>Memory: 处理文档
Memory->>Memory: 文本提取
Memory->>Memory: 分块处理
Memory->>Memory: 向量化
Memory-->>Process: 返回处理结果
alt 处理成功
Process->>MetaDB: 更新为文档标题
else 处理失败
Process->>MetaDB: 删除元数据记录
end
Note over Browser: 查询处理状态
Browser->>FastAPI: POST /endpoint<br/>{task: "pop_url", url: "..."}
FastAPI->>FileSystem: 更新当前URL
FastAPI-->>Browser: 返回 "Update URL"
3. 模块交互架构#
3.1 智能体模块交互图#
graph TB
subgraph "智能体层次结构"
Agent[Agent 基类<br/>抽象接口定义]
BasicAgent[BasicAgent<br/>纯LLM对话]
FnCallAgent[FnCallAgent<br/>函数调用能力]
Assistant[Assistant<br/>RAG + 工具调用]
ReActChat[ReActChat<br/>推理行动模式]
GroupChat[GroupChat<br/>多智能体协作]
ArticleAgent[ArticleAgent<br/>文章写作专家]
end
subgraph "核心能力模块"
LLMModule[LLM模块<br/>模型调用抽象]
ToolModule[工具模块<br/>功能扩展]
MemoryModule[记忆模块<br/>RAG检索]
MessageModule[消息模块<br/>格式处理]
end
subgraph "具体实现"
DashScope[DashScope API]
OpenAI[OpenAI API]
CodeInterpreter[代码解释器]
WebSearch[网络搜索]
DocParser[文档解析]
VectorDB[向量数据库]
end
%% 继承关系
Agent --> BasicAgent
Agent --> FnCallAgent
FnCallAgent --> Assistant
FnCallAgent --> ReActChat
Agent --> GroupChat
Assistant --> ArticleAgent
%% 依赖关系
Agent --> LLMModule
Agent --> MessageModule
FnCallAgent --> ToolModule
Assistant --> MemoryModule
%% 实现关系
LLMModule --> DashScope
LLMModule --> OpenAI
ToolModule --> CodeInterpreter
ToolModule --> WebSearch
ToolModule --> DocParser
MemoryModule --> VectorDB
3.2 LLM 模块架构图#
graph TD
subgraph "LLM 抽象层"
BaseChatModel[BaseChatModel<br/>统一接口]
ModelFactory[get_chat_model<br/>工厂函数]
Schema[Message Schema<br/>消息格式]
end
subgraph "具体实现"
QwenDS[QwenChatAtDS<br/>DashScope实现]
OpenAIModel[OpenAIModel<br/>OpenAI实现]
QwenVL[QwenVLChatAtDS<br/>多模态实现]
TransformersLLM[TransformersLLM<br/>本地实现]
end
subgraph "功能增强"
FunctionCalling[函数调用处理]
StreamProcessor[流式处理]
RetryMechanism[重试机制]
ErrorHandling[错误处理]
end
subgraph "外部服务"
DashScopeAPI[DashScope API]
OpenAIAPI[OpenAI API]
vLLMServer[vLLM 服务]
OllamaServer[Ollama 服务]
end
%% 接口实现
BaseChatModel --> QwenDS
BaseChatModel --> OpenAIModel
BaseChatModel --> QwenVL
BaseChatModel --> TransformersLLM
%% 工厂创建
ModelFactory --> QwenDS
ModelFactory --> OpenAIModel
%% 功能集成
QwenDS --> FunctionCalling
QwenDS --> StreamProcessor
OpenAIModel --> RetryMechanism
BaseChatModel --> ErrorHandling
%% 外部调用
QwenDS --> DashScopeAPI
OpenAIModel --> OpenAIAPI
TransformersLLM --> vLLMServer
TransformersLLM --> OllamaServer
3.3 工具系统架构图#
graph TB
subgraph "工具抽象层"
BaseTool[BaseTool<br/>工具基类]
ToolRegistry[TOOL_REGISTRY<br/>工具注册表]
RegisterDecorator[@register_tool<br/>注册装饰器]
end
subgraph "内置工具"
CodeInterpreter[代码解释器<br/>Python执行]
WebSearch[网络搜索<br/>信息检索]
DocParser[文档解析<br/>多格式支持]
ImageGen[图像生成<br/>AI绘画]
Retrieval[RAG检索<br/>知识问答]
AmapWeather[天气查询<br/>地理信息]
end
subgraph "执行环境"
JupyterKernel[Jupyter内核<br/>代码执行]
SearchEngine[搜索引擎<br/>Bing/Google]
DocumentParsers[文档解析器<br/>PDF/Word/PPT]
ImageServices[图像服务<br/>在线API]
VectorStore[向量存储<br/>文档检索]
end
subgraph "扩展机制"
MCPManager[MCP管理器<br/>第三方工具]
CustomTools[自定义工具<br/>用户扩展]
ToolConfig[工具配置<br/>参数管理]
end
%% 注册关系
RegisterDecorator --> ToolRegistry
BaseTool --> ToolRegistry
%% 工具实现
BaseTool --> CodeInterpreter
BaseTool --> WebSearch
BaseTool --> DocParser
BaseTool --> ImageGen
BaseTool --> Retrieval
BaseTool --> AmapWeather
%% 执行依赖
CodeInterpreter --> JupyterKernel
WebSearch --> SearchEngine
DocParser --> DocumentParsers
ImageGen --> ImageServices
Retrieval --> VectorStore
%% 扩展支持
ToolRegistry --> MCPManager
ToolRegistry --> CustomTools
BaseTool --> ToolConfig
4. 部署架构#
4.1 单机部署架构#
graph TB
subgraph "用户层"
WebBrowser[Web浏览器]
BrowserExt[浏览器扩展]
PythonApp[Python应用]
CLI[命令行工具]
end
subgraph "应用层"
subgraph "端口分配"
Port7863[":7863<br/>助手界面"]
Port7864[":7864<br/>工作站界面"]
Port7866[":7866<br/>数据API"]
end
subgraph "服务进程"
AssistantServer[assistant_server.py<br/>聊天服务]
WorkstationServer[workstation_server.py<br/>工作站服务]
DatabaseServer[database_server.py<br/>数据服务]
end
end
subgraph "存储层"
WorkSpace[工作空间<br/>临时文件]
DownloadRoot[下载目录<br/>缓存文件]
HistoryDir[历史目录<br/>对话记录]
MetaData[元数据<br/>文档索引]
end
subgraph "外部服务"
DashScopeAPI[DashScope API]
LocalLLM[本地LLM服务]
SearchAPI[搜索API]
end
%% 用户访问
WebBrowser --> Port7863
WebBrowser --> Port7864
BrowserExt --> Port7866
PythonApp --> AssistantServer
CLI --> AssistantServer
%% 服务映射
Port7863 --> AssistantServer
Port7864 --> WorkstationServer
Port7866 --> DatabaseServer
%% 存储访问
AssistantServer --> WorkSpace
WorkstationServer --> DownloadRoot
DatabaseServer --> HistoryDir
DatabaseServer --> MetaData
%% 外部调用
AssistantServer --> DashScopeAPI
AssistantServer --> LocalLLM
WorkstationServer --> SearchAPI
4.2 分布式部署架构#
graph TB
subgraph "负载均衡层"
Internet[互联网] --> CDN[CDN 加速]
CDN --> WAF[Web 应用防火墙]
WAF --> LoadBalancer[负载均衡器<br/>Nginx/HAProxy]
end
subgraph "应用集群"
LoadBalancer --> AppNode1[应用节点1<br/>Web + API]
LoadBalancer --> AppNode2[应用节点2<br/>Web + API]
LoadBalancer --> AppNode3[应用节点3<br/>Web + API]
end
subgraph "智能体集群"
AppNode1 --> AgentCluster1[智能体集群1<br/>Assistant]
AppNode2 --> AgentCluster2[智能体集群2<br/>ReActChat]
AppNode3 --> AgentCluster3[智能体集群3<br/>GroupChat]
end
subgraph "LLM 服务集群"
AgentCluster1 --> LLMGateway[LLM 网关]
AgentCluster2 --> LLMGateway
AgentCluster3 --> LLMGateway
LLMGateway --> DashScopeCluster[DashScope 集群]
LLMGateway --> vLLMCluster[vLLM 集群]
LLMGateway --> OllamaCluster[Ollama 集群]
end
subgraph "存储集群"
AppNode1 --> StorageGateway[存储网关]
AppNode2 --> StorageGateway
AppNode3 --> StorageGateway
StorageGateway --> FileStorage[文件存储<br/>NFS/S3]
StorageGateway --> VectorDB[向量数据库<br/>Milvus/Weaviate]
StorageGateway --> MetaDB[元数据库<br/>PostgreSQL]
StorageGateway --> CacheCluster[缓存集群<br/>Redis Cluster]
end
subgraph "监控运维"
AppNode1 --> MonitoringGateway[监控网关]
AppNode2 --> MonitoringGateway
AppNode3 --> MonitoringGateway
MonitoringGateway --> Prometheus[Prometheus<br/>指标收集]
MonitoringGateway --> ELK[ELK Stack<br/>日志分析]
MonitoringGateway --> Grafana[Grafana<br/>可视化]
MonitoringGateway --> AlertManager[AlertManager<br/>告警管理]
end
5. 性能架构#
5.1 并发处理架构#
graph TB
subgraph "请求入口"
ClientRequests[客户端请求<br/>HTTP/WebSocket]
end
subgraph "连接层"
ConnectionPool[连接池<br/>HTTP Keep-Alive]
LoadBalancer[负载均衡<br/>Round Robin/Weighted]
RateLimiter[限流器<br/>Token Bucket/Sliding Window]
end
subgraph "处理层"
subgraph "进程级并发"
ProcessPool[进程池<br/>Multi-Processing]
ProcessManager[进程管理器<br/>Supervisor]
end
subgraph "线程级并发"
ThreadPool[线程池<br/>ThreadPoolExecutor]
AsyncPool[异步池<br/>asyncio EventLoop]
end
subgraph "协程级并发"
CoroutinePool[协程池<br/>async/await]
TaskQueue[任务队列<br/>asyncio.Queue]
end
end
subgraph "资源层"
CPUScheduler[CPU 调度器<br/>多核利用]
MemoryManager[内存管理器<br/>对象池]
IOMultiplexer[I/O 多路复用<br/>epoll/kqueue]
end
subgraph "监控层"
PerformanceMonitor[性能监控<br/>QPS/延迟/错误率]
ResourceMonitor[资源监控<br/>CPU/内存/网络]
AlertSystem[告警系统<br/>阈值监控]
end
%% 请求流转
ClientRequests --> ConnectionPool
ConnectionPool --> LoadBalancer
LoadBalancer --> RateLimiter
RateLimiter --> ProcessPool
ProcessPool --> ThreadPool
ThreadPool --> AsyncPool
AsyncPool --> CoroutinePool
CoroutinePool --> TaskQueue
TaskQueue --> CPUScheduler
CPUScheduler --> MemoryManager
MemoryManager --> IOMultiplexer
%% 监控反馈
ProcessPool --> PerformanceMonitor
ThreadPool --> ResourceMonitor
AsyncPool --> AlertSystem
5.2 缓存架构#
graph TB
subgraph "缓存层次"
L1Cache[L1 缓存<br/>进程内存缓存]
L2Cache[L2 缓存<br/>Redis 缓存]
L3Cache[L3 缓存<br/>文件系统缓存]
L4Cache[L4 缓存<br/>CDN 缓存]
end
subgraph "缓存类型"
ResponseCache[响应缓存<br/>LLM 输出结果]
SessionCache[会话缓存<br/>对话历史]
DocumentCache[文档缓存<br/>解析结果]
VectorCache[向量缓存<br/>嵌入结果]
ConfigCache[配置缓存<br/>系统配置]
end
subgraph "缓存策略"
LRU[LRU 淘汰<br/>最近最少使用]
LFU[LFU 淘汰<br/>最少使用频率]
TTL[TTL 过期<br/>时间生存期]
WriteThrough[写透缓存<br/>同步写入]
WriteBack[写回缓存<br/>异步写入]
end
subgraph "缓存管理"
CacheManager[缓存管理器<br/>统一接口]
CacheMonitor[缓存监控<br/>命中率统计]
CacheWarmer[缓存预热<br/>预加载热点数据]
CacheCleaner[缓存清理<br/>定期清理过期数据]
end
%% 层次关系
L1Cache --> L2Cache
L2Cache --> L3Cache
L3Cache --> L4Cache
%% 类型分布
ResponseCache --> L1Cache
SessionCache --> L1Cache
DocumentCache --> L2Cache
VectorCache --> L3Cache
ConfigCache --> L1Cache
%% 策略应用
L1Cache --> LRU
L2Cache --> LFU
L3Cache --> TTL
ResponseCache --> WriteThrough
DocumentCache --> WriteBack
%% 管理组件
CacheManager --> L1Cache
CacheManager --> L2Cache
CacheMonitor --> CacheManager
CacheWarmer --> CacheManager
CacheCleaner --> CacheManager
6. 安全架构#
6.1 安全防护体系#
graph TB
subgraph "网络安全层"
Firewall[防火墙<br/>IP 白名单/黑名单]
DDoSProtection[DDoS 防护<br/>流量清洗]
WAF[Web 应用防火墙<br/>SQL 注入/XSS 防护]
end
subgraph "接入安全层"
TLS[TLS 加密<br/>HTTPS/WSS]
CertManager[证书管理<br/>自动更新]
CORS[跨域控制<br/>Origin 验证]
end
subgraph "认证授权层"
APIKeyAuth[API Key 认证<br/>密钥验证]
JWTAuth[JWT 认证<br/>Token 验证]
RoleBasedAuth[基于角色的授权<br/>RBAC]
RateLimiting[访问限流<br/>防止滥用]
end
subgraph "应用安全层"
InputValidation[输入验证<br/>参数校验]
OutputSanitization[输出净化<br/>XSS 防护]
CodeExecution[代码执行安全<br/>沙箱隔离]
DataEncryption[数据加密<br/>敏感信息保护]
end
subgraph "运行时安全层"
ProcessIsolation[进程隔离<br/>容器化部署]
ResourceLimiting[资源限制<br/>防止资源耗尽]
AuditLogging[审计日志<br/>操作记录]
SecurityMonitoring[安全监控<br/>异常检测]
end
subgraph "数据安全层"
DataClassification[数据分类<br/>敏感度标记]
DataMasking[数据脱敏<br/>隐私保护]
BackupEncryption[备份加密<br/>数据保护]
AccessControl[访问控制<br/>最小权限原则]
end
%% 安全层次
Firewall --> TLS
DDoSProtection --> CertManager
WAF --> CORS
TLS --> APIKeyAuth
CertManager --> JWTAuth
CORS --> RoleBasedAuth
APIKeyAuth --> InputValidation
JWTAuth --> OutputSanitization
RoleBasedAuth --> CodeExecution
RateLimiting --> DataEncryption
InputValidation --> ProcessIsolation
OutputSanitization --> ResourceLimiting
CodeExecution --> AuditLogging
DataEncryption --> SecurityMonitoring
ProcessIsolation --> DataClassification
ResourceLimiting --> DataMasking
AuditLogging --> BackupEncryption
SecurityMonitoring --> AccessControl
7. 数据流架构#
7.1 消息流转图#
flowchart TD
UserInput[用户输入] --> MessageParser[消息解析器]
MessageParser --> TypeConverter[类型转换器]
TypeConverter --> LanguageDetector[语言检测器]
LanguageDetector --> SystemInjector[系统消息注入器]
SystemInjector --> RAGProcessor[RAG处理器]
RAGProcessor --> FileExtractor[文件提取器]
FileExtractor --> DocumentRetriever[文档检索器]
DocumentRetriever --> KnowledgeInjector[知识注入器]
KnowledgeInjector --> LLMCaller[LLM调用器]
LLMCaller --> ResponseParser[响应解析器]
ResponseParser --> ToolDetector[工具检测器]
ToolDetector --> ToolExecutor[工具执行器]
ToolExecutor --> ResultFormatter[结果格式化器]
ResultFormatter --> HistoryUpdater[历史更新器]
HistoryUpdater --> ContinueDecision{继续对话?}
ContinueDecision -->|是| LLMCaller
ContinueDecision -->|否| ResponseStreamer[响应流化器]
ResponseStreamer --> UserInterface[用户界面]
7.2 文件处理流程图#
flowchart TD
FileUpload[文件上传] --> FileTypeDetector[文件类型检测]
FileTypeDetector --> PDFParser[PDF解析器]
FileTypeDetector --> DocxParser[Word解析器]
FileTypeDetector --> TxtParser[文本解析器]
FileTypeDetector --> WebParser[网页解析器]
PDFParser --> TextExtractor[文本提取器]
DocxParser --> TextExtractor
TxtParser --> TextExtractor
WebParser --> TextExtractor
TextExtractor --> TextCleaner[文本清洗器]
TextCleaner --> ChunkSplitter[分块器]
ChunkSplitter --> Embedder[向量化器]
Embedder --> VectorStore[向量存储]
VectorStore --> IndexBuilder[索引构建器]
IndexBuilder --> MetadataManager[元数据管理器]
MetadataManager --> CacheManager[缓存管理器]
CacheManager --> RetrievalReady[检索就绪]
8. 性能指标与监控#
8.1 关键性能指标#
| 指标类别 |
指标名称 |
目标值 |
监控方式 |
| 响应性能 |
首 Token 延迟 |
P95 < 1s |
实时监控 |
| 响应性能 |
完整响应延迟 |
P95 < 10s |
实时监控 |
| 吞吐量 |
并发请求数 |
> 100 QPS |
负载测试 |
| 可用性 |
服务可用率 |
> 99.9% |
健康检查 |
| 资源使用 |
内存占用 |
< 2GB |
系统监控 |
| 资源使用 |
CPU 使用率 |
< 80% |
系统监控 |
| 缓存效率 |
缓存命中率 |
> 80% |
缓存监控 |
8.2 监控告警体系#
graph TB
subgraph "数据采集层"
AppMetrics[应用指标<br/>QPS/延迟/错误率]
SystemMetrics[系统指标<br/>CPU/内存/磁盘]
BusinessMetrics[业务指标<br/>用户数/对话数]
LogData[日志数据<br/>错误日志/访问日志]
end
subgraph "数据处理层"
MetricsProcessor[指标处理器<br/>聚合/计算]
LogProcessor[日志处理器<br/>解析/过滤]
AlertEngine[告警引擎<br/>规则匹配]
end
subgraph "存储层"
TimeSeriesDB[时序数据库<br/>Prometheus]
LogStorage[日志存储<br/>Elasticsearch]
AlertHistory[告警历史<br/>MySQL]
end
subgraph "展示层"
Dashboard[监控面板<br/>Grafana]
AlertManager[告警管理<br/>钉钉/邮件]
ReportSystem[报表系统<br/>定期报告]
end
%% 数据流
AppMetrics --> MetricsProcessor
SystemMetrics --> MetricsProcessor
BusinessMetrics --> MetricsProcessor
LogData --> LogProcessor
MetricsProcessor --> TimeSeriesDB
LogProcessor --> LogStorage
MetricsProcessor --> AlertEngine
LogProcessor --> AlertEngine
AlertEngine --> AlertHistory
AlertEngine --> AlertManager
TimeSeriesDB --> Dashboard
LogStorage --> Dashboard
AlertHistory --> ReportSystem
9. 验收清单#
这个完整的架构分析文档整合了原有两个架构文档的精华内容，提供了从宏观到微观、从设计到实现的全方位架构视图，为理解和部署 Qwen-Agent 框架提供了权威的技术指导。