Tips

• 速度優先のモデルでGenerate Foreverをして、SSR が来たら採用する考え方の UI です。
  • アホな文章が生成されはじめたら、F5 ですぐに次の生成に移れます。
  • 生成結果には番号を振ってありますので、「～なものの番号を5つ挙げて、理由も添えて」とより賢い LLM に頼むこともできます（出力のログは log/ にあります）。
• EasyNovelAssistant は自動的に指示タグを挿入していません。
  • 入力欄を右クリックすると 指示タグを挿入 できます。
• 入力欄の 行頭 に // で、その行をコメントとして扱い、LLM の入力に含めません。
• EasyNovelAssistant は KoboldCpp/ にモデルを L0 で立ち上げる bat ファイルを生成します。
  • この bat ファイルでモデルサーバーを起動すると、LightChatAssistant の起動時に自動的に接続し、終了時にモデルサーバーを終了しません。
  • bat ファイルをコピーして、set GPU_LAYERS=0 などをお好みに変更してご利用ください。
• KoboldCpp と同様に Style-Bert-VITS2/Server.bat や Style-Bert-VITS2/ServerCpu.bat で、あらかじめ読み上げサーバーを立ち上げておくこともできます。
• モデルを追加するには EasyNovelAssistant/setup/res/default_llm.json を参考にしつつ、llm.json にモデルを追加します。
• 指示タグを追加するには EasyNovelAssistant/setup/res/default_llm_sequence.json を参考にしつつ、llm_sequence.json にモデルを追加します。
  • 辞書のキーがモデルファイル名に含まれていると、その指示タグが使用されます。

KoboldCpp

KoboldCpp/koboldcpp.exe を実行すると、通常の KoboldCpp として利用できます。

モデルサーバー起動中に http://localhost:5001 を開くと、EasyLightChatAssistant のように KoboldCpp の Web UI を利用できます。

Style-Bert-VITS2

Style-Bert-VITS2/ フォルダ内は通常の Style-Bert-VITS2 として利用できます。

• Style-Bert-VITS2 のチュートリアル: YouTube, ニコニコ
• Style-Bert-VITS2/Editor.bat で、音程調整ありの音声生成ができます。
• Style-Bert-VITS2/App.bat でお手元の音声データからモデルを作成できます。
  • 音声の分割、読みの追加などモデルの学習に必要な機能が一通り揃っています。
    詳細は 公式ページの学習説明 を確認ください。