要查看TIPO的模型权重,前往镜像站:原模型,或者自行去搜索其他的量化版本
或者有能力的可以直接去原站点:Huggingface
琥珀佬的Github主页
一部分代码由 GLM4
llama-cpp-python 最好要 GPU 版的,在 CPU 版本下n_gpu_layers参数不会生效
llama-cpp-python
gradio
pyperclip
如果你想用TEST.py,那么你需要额外安装kgen这个库
- 去前面提到的模型权重那里下载
.gguf文件,放进脚本所在目录下的models文件夹里 - 双击脚本,或者用
cmd运行python GUI.py - 前往“设置”页面,选择你的模型文件,然后点击加载
- 如果看不懂参数,你有两个选择:别动参数,或者去“教程”页面看解释
- 看到下面的生成设置,和上面一样,两个选择
- 转到“生成”页面,选好模式、长度,写好提示词、质量,然后点“TIPO!”就行了
- 点“复制到剪贴板”,复制结果
- 使用
Language Config Manager.py来管理语言配置 - 要添加语言,遵循以下步骤:
- 在
Locales文件夹里创建一个新的.json文件 - 通常来说,我建议你复制已经存在的语言文件,然后进行翻译,翻译完成后保存文件
- 在
Tutorials子文件夹新建一个.md文件 - 复制已经存在的教程文件,翻译并保存
- 打开
Language Config Manager.py,选择2. Write new language config,你应该能够看到你的语言文件的文件名出现在了选项里 - 选择你的文件,重新启动 Webui,你应该能够看到语言设置生效
- 在
直接双击脚本闪退的话可以试一下在cmd里用python GUI.py,总之就是我也不知道为什么,这玩意我也是现学的
