Repository navigation
Sync-Strata 0.1.1
Sync-Strata 0.1.1
日本語
- エンジン: Strata のフォーク ql/rel-1118(Windows 9fa44244・Linux 2d6076ad)。
- 生成中に VRAM が足りなくなったら、自動で縮めて続けます(一度に大きく取られたときも、止まらずにやり直します)。
- Windows でメモリの上限(コミット)が足りない PC では、モデルの読み方と会話を預ける場所を自動で調整します。
- 起動の後、dsh の指示文を裏で読み込み、最初の会話を速くします。
- 既定のポート番号がほかのプログラムに使われていると、空いているポート番号に自動で変更されます(実際のポート番号は
sync apiで分かります)。 - GPU が何枚あっても、対応する 1 枚を選んで使います。Tesla V100・Titan V・Tesla P100(試験的)を追加しました。
- アプリの中から更新でき、メモリの使い方を見られるようになりました。
- 0.1.0 からの更新: アプリの「更新」か、
update.cmd(Windows)・update.sh(Linux)。
English
- Engine: the Strata fork ql/rel-1118 (Windows 9fa44244, Linux 2d6076ad).
- When VRAM runs short during generation, it shrinks its use and carries on (also when a large amount is taken at once).
- On Windows PCs with a short commit limit, the way the model is read and the room for parked conversations are adjusted automatically.
- After start, dsh's instructions are read in the background so the first message is faster.
- If a default port is used by another program, a free one is chosen (
sync apishows the actual address). - With several GPUs, one supported GPU is chosen. Added Tesla V100, Titan V and Tesla P100 (experimental).
- Updates from inside the app, and a view of memory use.
- Updating from 0.1.0: "Update" in the app, or
update.cmd(Windows) /update.sh(Linux).