Sakura model 使用上的一些小問題

[paul0728]

我使用sakura-13b-lnovel-v0.9-Q4_K_M.gguf 模型
大部分的情況是有辦法翻譯但偶爾會遇到以下問題：

1.原始文本与翻译文本的行数不匹配。原始文本行数: 1, 翻译文本行数: 4:
有時候會卡一陣子而無法翻譯,需要一句一句翻

2.WARNING:BallonTranslator:You are utilizing an outdated version of the OpenAI Python API.:
但是我是用pip install -r requirements.txt安裝 然後我在使用sakura模型而不是chatgpt
不知道為何會跳出此warning

[Raiter123]

我也碰到這個呢，然後翻譯會跑的很久，如果我不是CPU和GPU一起用的話GPU會燒起來呢
至於下面的，你試試下載最新的

[paul0728]

我也碰到這個呢，然後翻譯會跑的很久，如果我不是CPU和GPU一起用的話GPU會燒起來呢 至於下面的，你試試下載最新的

最新的指的是哪個套件?
我是大概兩天前才git clone最新版然後安裝的
而且重點是我在用sakura為何跑出openai warning?

[Raiter123]

我也碰到這個呢，然後翻譯會跑的很久，如果我不是CPU和GPU一起用的話GPU會燒起來呢 至於下面的，你試試下載最新的

最新的指的是哪個套件? 我是大概兩天前才git clone最新版然後安裝的 而且重點是我在用sakura為何跑出openai warning?

你有用sakura選項嗎？

還有我是整個重新下載過的，當然有備份先哦

[paul0728]

還有我是整個重新下載過的，當然有備份先哦

有喔,我有用sakura選項

[Raiter123]

試試看更新下，打開以下的文件

[paul0728]

好的~不過我是自己用conda,沒辦法那樣更新,謝謝你

[paul0728]

好奇問一下 @Raiter123 是怎麼部署Sakura模型的
我在想會不會是部署的程式中的函式套件版本比較舊
我是用這個

[Raiter123]

是怎麼部署Sakura模型的
我在想會不會是部署的程式中的函式套件版本比較舊

我是用這個
參考這裏
https://books.fishhawk.top/forum/656d60530286f15e3384fcf8
可以用新的模組 7.91gb的那個
https://huggingface.co/SakuraLLM/Sakura-14B-Qwen2beta-v0.9-GGUF/tree/main
下載新的bat，[sakura-launcher-cublas12-b2062.zip]
https://onedrive.live.com/?redeem=aHR0cHM6Ly8xZHJ2Lm1zL2YvcyFBalBJVU5NV2JJaTBnVV9lVDQxZ0o2UkFheWsw&id=B4886C16D350C833%21207&cid=B4886C16D350C833
把那個bat下載，然後吧模組放在一起然後啓動把他就可以了

[allrobot]

好的~不過我是自己用conda,沒辦法那樣更新,謝謝你

把conda的Python.exe的路径添加到Path，重启电脑后bat就能直接用conda环境的Python执行程序了