有没有不用docker部署的方案

[djkcyl]

我想直接在机器上跑，不用docker，能否实现

[lvhan028]

你可以使用 lmdeploy/pytorch/chat.py

[djkcyl]

我没说清楚，我想在机器上不用docker起一个docker里的那种api服务，然后用webui

[tpoisonooo]

这里有个 dockerfile， 按内容把自己的设备配置一下。 https://github.com/InternLM/lmdeploy/blob/main/docker/Dockerfile

[tpoisonooo]

安装过啥，dockerfile 里都写了。

[APX103]

作为补充，tritonserver:22.12-py3这个镜像中已有环境配置并没有写在dockerfile中。

根据镜像对应的release文档可以看出它的运行环境、软件版本

也许会有帮助。

[lvhan028]

@AllentDan app.py直接封装turbomind的python api吧，不再和triton Inference server交互了

[AllentDan]

PR #162