Pre-checks
Deployment Method
Docker
Steps to Reproduce
- 部署v1.9.2以上的版本
- 选择本地vllm部署的大模型创建智能体
- 点击新建会话
- 提示错误
Expected vs Actual Behavior
对比旧版本创建的agent,socket通信多出了一个onboarding_trigger的报文,
后端处理后,会以system角色消息拼接到llm请求报文的头部,导致llm收到的报文中,有两个system 报文,但vllm不支持,因此返回报错
Logs / Screenshots
底层llm消息拼接类优化,合并相邻system角色消息
Pre-checks
Deployment Method
Docker
Steps to Reproduce
Expected vs Actual Behavior
对比旧版本创建的agent,socket通信多出了一个onboarding_trigger的报文,
后端处理后,会以system角色消息拼接到llm请求报文的头部,导致llm收到的报文中,有两个system 报文,但vllm不支持,因此返回报错
Logs / Screenshots
底层llm消息拼接类优化,合并相邻system角色消息