Skip to content

V0.4.2

Latest

Choose a tag to compare

@menachem-dadon menachem-dadon released this 21 Sep 23:10

בין השיפורים:

  • SparkMoE קיבלה חלון עצמאי, במקום לפתוח 2 כרטיסיות בדפדפן + חלון CMD.
  • ה-UI של SparkMoE אוחד במלואו עם ה-UI המקורי של llama.cpp, כך שאין יותר שני מסכים נפרדים לניהול SparkMoE ולניהול llama.cpp, אלא הכל נמצא תחת אותו ממשק.
  • שיפורים משמעותיים בהאצת מהירות הסקת המודלים.
  • הוספת תמיכה בארכיטקטורת qwen4exp - עבור Qwen 3.8 Flash Next (שמקבל כ-0.5 טוק' לשנייה על מחשב פשוט עם 16 RAM עם SparkMoE), ומשפחת מודלי Qwen 4 שתשוחרר בקרוב.
  • הוספת תמיכה בטבלאות n-gram וטעינתם לדיסק במקום ל-RAM - רלוונטי במיוחד עבור Qwen 3.8 Flash Next ומשפחת מודלי Qwen 4 העתידיים.
  • ניהול נוח יותר של כלל ההגדרות, כולל הגדרה פר מודל.
  • שיפורים רבים נוספים.