Skip to content
KomoriDev edited this page Feb 7, 2025 · 2 revisions

接入本地模型

因 Ollama 兼容 Openai API,本插件也支持接入通过 Ollama 部署的本地模型

安装 Ollama

进入 Ollama 官方网站,点击 Download 按钮,也可以直接点击下方按钮

download

运行本地模型

Ollama Library 中选择你需要的模型,复制运行命令

Ollama Library

例如:

ollama run deepseek-r1:7b

修改插件配置

接入本地模型,主要需要修改:

  • deepseek__api_key本地模型的 api key 随便写就行
  • deepseek__enable_models

配置示例:

deepseek__api_key=''
deepseek__prompt=''
deepseek__enable_models='
[
  { "name": "deepseek-chat" },
- { "name": "deepseek-reasoner" }
+ { "name": "deepseek-reasoner" },
+ {
+   "name": "deepseek-r1:7b",
+   # "api_key": "ollama",   <-- 你也可以在这里独立设置 api key
+   "base_url": "http://localhost:11434/v1"
+ }
]
'
deepseek__md_to_pic=false
deepseek__enable_send_thinking=false

使用模型

单次使用

/deepseek [内容] --use-model deepseek-r1:7b

设为默认

/deepseek model --set-default deepseek-r1:7b

快捷指令:/设置默认模型 deepseek-r1:7b

Clone this wiki locally