一个基于 FastAPI 和 WebSocket 的现代化 AI 聊天系统，支持多 Agent 架构、工具调用和流式输出。
- 🤖 多 Agent 架构 - 支持多种专业化 Agent（通用助理、代码理解助手、文档生成助手、任务规划师等）
- 🧠 记忆系统 - 支持短期和长期记忆管理，Agent能记住对话上下文和重要信息
- 🔧 工具集成 - 内置丰富的工具系统（天气、计算器、终端、文件操作、代码分析等）
- 📝 代码理解 - 专业的代码分析和项目理解能力
- 📚 文档生成 - 自动生成技术文档、README、API文档等
- 📋 任务规划 - 智能任务分解和规划，支持ToDo列表展示
- 💬 实时通信 - 基于 WebSocket 的双向流式通信
- 🎯 Function Calling - 原生支持 OpenAI Function Calling 模式
- 🔄 ReAct 模式 - 支持推理-行动循环（Reasoning + Action）
- 📊 会话管理 - 完整的对话历史和上下文维护
- 🎨 现代化界面 - 响应式前端设计，支持 Markdown 渲染和代码高亮
- ⏸️ 流式控制 - 支持暂停/停止生成
..
├── ai_chat/
│ ├── backend/ # 后端服务
│ │ ├── agents/ # Agent 系统
│ │ │ ├── base_agent.py # Agent 基类
│ │ │ ├── function_call_agent.py # Function Call Agent
│ │ │ ├── memory_function_call_agent.py # 带记忆的 Function Call Agent
│ │ │ ├── code_understanding_agent.py # 代码理解 Agent
│ │ │ ├── documentation_agent.py # 文档生成 Agent
│ │ │ ├── planning_agent.py # 任务规划 Agent
│ │ │ ├── specialized_agents.py # 专业化 Agent
│ │ │ ├── memory.py # 记忆系统
│ │ │ ├── memory_mixin.py # 记忆混入类
│ │ │ └── agent_manager.py # Agent 管理器
│ │ ├── chat/ # 聊天处理
│ │ │ ├── session.py # 会话管理
│ │ │ ├── processor.py # 消息处理器
│ │ │ ├── react_processor.py # ReAct 处理器
│ │ │ └── function_call_processor.py # Function Call 处理器
│ │ ├── llm/ # LLM 客户端
│ │ │ └── client.py # OpenAI 客户端封装
│ │ ├── tools/ # 工具系统
│ │ │ ├── base.py # 工具基类
│ │ │ ├── registry.py # 工具注册表
│ │ │ ├── weather.py # 天气工具
│ │ │ ├── calculator.py # 计算器工具
│ │ │ ├── time_tool.py # 时间工具
│ │ │ ├── terminal.py # 终端工具
│ │ │ ├── file_operations.py # 文件操作工具
│ │ │ └── code_analysis.py # 代码分析工具
│ │ ├── app.py # 应用主文件
│ │ ├── config.py # 配置管理
│ │ └── requirements.txt # Python 依赖
│ └── frontend/ # 前端界面
│ ├── css/ # 样式文件
│ ├── js/ # JavaScript 模块
│ ├── index.html # 主页面
│ ├── script.js # 前端逻辑
│ └── style.css # 样式文件
├── workflows/ # 工作流示例
│ └── deepwiki/ # DeepWiki 工作流
└── test/ # 测试文件
- Python 3.8+
- Node.js（可选，用于前端开发）
cd ai_chat/backend
pip install -r requirements.txt在 config.py 中配置 LLM API：
class LLMConfig(BaseModel):
api_key: str = "your-api-key"
base_url: str = "https://api.deepseek.com/v1"
model: str = "deepseek-chat"或使用环境变量：
export LLM_API_KEY="your-api-key"
export LLM_BASE_URL="https://api.deepseek.com/v1"
export LLM_MODEL="deepseek-chat"方式一：直接运行
cd ai_chat/backend
python app.py方式二：使用启动脚本
cd ai_chat/backend
python run_server.py服务将在 http://localhost:8000 启动。
在浏览器中打开 ai_chat/frontend/index.html，或使用 Live Server 等工具。
系统内置多种专业化 Agent：
- 通用助理 (FunctionCallAgent) - 默认 Agent，支持工具调用和多轮交互，集成记忆功能
- 代码理解助手 (CodeUnderstandingAgent) - 专注于代码分析、项目结构理解和代码搜索
- 文档生成助手 (DocumentationAgent) - 自动生成技术文档、README、API文档等
- 任务规划师 (PlanningAgent) - 智能任务分解和规划，支持ToDo列表展示
- 简单对话 (SimpleAgent) - 纯对话 Agent，不使用工具
- 分析专家 (AnalysisAgent) - 专注于深度分析和推理
- 编程助手 (CodeAgent) - 专注于编程相关任务
- Agent 模式 - 使用 Agent 管理器（推荐）
- Function Call 模式 - 原生 Function Calling，自动多轮
- ReAct 模式 - 推理-行动循环
- Simple 模式 - 单次工具调用
基础工具：
- get_weather - 查询城市天气信息
- calculator - 执行数学运算
- get_current_time - 获取当前时间和日期
- execute_command - 执行 shell 命令
- read_file - 读取文本文件
- write_file - 写入文件
- list_directory - 列出目录内容
代码分析工具：
- analyze_project_structure - 分析项目目录结构
- search_code - 支持正则表达式的代码搜索
- find_files - 查找指定文件
- analyze_file - 分析文件结构（函数、类、导入等）
GET /- 健康检查GET /health- 服务状态GET /agent/info- 获取所有 Agent 信息GET /agent/stats- 获取 Agent 系统统计POST /agent/switch/{session_id}- 切换会话 Agent
const ws = new WebSocket('ws://localhost:8000/ws/{session_id}');
// 发送消息
ws.send(JSON.stringify({
type: 'message',
content: '你好',
mode: 'agent',
agent_name: '通用助理' // 可选
}));
// 停止生成
ws.send(JSON.stringify({
type: 'stop'
}));from agents.base_agent import BaseAgent
class MyAgent(BaseAgent):
def __init__(self, name, llm_client, tool_registry, session_manager):
super().__init__(
name=name,
agent_type="custom",
llm_client=llm_client,
tool_registry=tool_registry,
session_manager=session_manager,
system_prompt="你的系统提示词"
)
async def run(self, websocket, session_id, user_input, messages):
# 实现你的 Agent 逻辑
passfrom tools.base import BaseTool
class MyTool(BaseTool):
@property
def name(self) -> str:
return "my_tool"
@property
def description(self) -> str:
return "我的工具描述"
@property
def parameters(self) -> dict:
return {
"type": "object",
"properties": {
"param": {
"type": "string",
"description": "参数描述"
}
},
"required": ["param"]
}
async def execute(self, **kwargs) -> str:
# 实现工具逻辑
return "工具执行结果"from tools.registry import ToolRegistry
tool_registry = ToolRegistry()
tool_registry.register(MyTool())用户消息：
{
type: 'user_message_received',
content: '用户输入的内容',
mode: 'agent'
}AI 回复：
{
type: 'response_chunk',
content: '流式输出内容'
}工具调用：
{
type: 'tool_call',
tool_name: 'calculator',
arguments: { expression: '1+1' }
}工具结果：
{
type: 'tool_result',
result: '2'
}class ServerConfig:
host: str = "0.0.0.0"
port: int = 8000class LLMConfig:
api_key: str # API 密钥
base_url: str # API 地址
model: str # 模型名称class CORSConfig:
allow_origins: list = ["*"]
allow_credentials: bool = True
allow_methods: list = ["*"]
allow_headers: list = ["*"]# 测试代码理解 Agent
python test/test_code_understanding_agent.py
# 测试文档生成 Agent
python test/test_documentation_agent.py
# 测试记忆功能
python test/test_memory_agent.py
# 测试所有 Agent 的记忆功能
python test/test_all_agents_memory.py
# 记忆功能演示
python test/MEMORY_FEATURE_DEMO.py- fastapi - Web 框架
- uvicorn - ASGI 服务器
- openai - OpenAI SDK
- websockets - WebSocket 支持
- aiofiles - 异步文件操作
- pydantic - 数据验证
欢迎提交 Issue 和 Pull Request！
MIT License
如有问题，请提交 Issue。
版本： 2.0.0 - Memory & Specialized Agents
更新时间： 2025-11
v2.0.0 (2025-11-25)
- ✨ 新增记忆系统（短期记忆 + 长期记忆）
- ✨ 新增代码理解专家Agent
- ✨ 新增文档生成Agent
- ✨ 新增任务规划Agent
- ✨ 新增代码分析工具集
- 🔧 为现有Agent集成记忆功能
- 📚 完善测试用例和文档
v1.2.0 (2025-11)
- 模块化架构重构
- 多Agent支持