-
-
Notifications
You must be signed in to change notification settings - Fork 19
本地模型
KomoriDev edited this page Feb 7, 2025
·
2 revisions
因 Ollama 兼容 Openai API,本插件也支持接入通过 Ollama 部署的本地模型
进入 Ollama 官方网站,点击 Download 按钮,也可以直接点击下方按钮
在 Ollama Library 中选择你需要的模型,复制运行命令
例如:
ollama run deepseek-r1:7b接入本地模型,主要需要修改:
-
deepseek__api_key:本地模型的 api key 随便写就行 deepseek__enable_models
配置示例:
deepseek__api_key=''
deepseek__prompt=''
deepseek__enable_models='
[
{ "name": "deepseek-chat" },
- { "name": "deepseek-reasoner" }
+ { "name": "deepseek-reasoner" },
+ {
+ "name": "deepseek-r1:7b",
+ # "api_key": "ollama", <-- 你也可以在这里独立设置 api key
+ "base_url": "http://localhost:11434/v1"
+ }
]
'
deepseek__md_to_pic=false
deepseek__enable_send_thinking=false/deepseek [内容] --use-model deepseek-r1:7b/deepseek model --set-default deepseek-r1:7b快捷指令:/设置默认模型 deepseek-r1:7b
