使用reasoning_parser_cache 加速

使用reasoning_parser_cache 加速

add vllm reasoning parse

修复qwen 推理解析

修复qwen 推理解析

优化推理模型

优化

重构 工具调用以及解析

修复LMDeploy stop 无法停止的问题

修复tool 解析

修改token 解析实现方式

升级版本 0.3.8

升级版本 0.3.8

升级版本 0.3.8

update lmdeploy==0.7.2.post1 and transformers==4.50.0

add gemma

add gemma

add tool_calling test

add tool_calling test

update lmdepoly==0.7.1 vllm=0.7.3

update lmdepoly==0.7.1 vllm=0.7.3

update lmdepoly==0.7.1 vllm=0.7.3

fix readme

fix readme

修改版本

修改版本

修改版本

remove gradio + add sglang backend code

remove gradio + add sglang backend code

remove web_demo.py