Repository navigation
בין השיפורים:
- SparkMoE קיבלה חלון עצמאי, במקום לפתוח 2 כרטיסיות בדפדפן + חלון CMD.
- ה-UI של SparkMoE אוחד במלואו עם ה-UI המקורי של llama.cpp, כך שאין יותר שני מסכים נפרדים לניהול SparkMoE ולניהול llama.cpp, אלא הכל נמצא תחת אותו ממשק.
- שיפורים משמעותיים בהאצת מהירות הסקת המודלים.
- הוספת תמיכה בארכיטקטורת
qwen4exp- עבור Qwen 3.8 Flash Next (שמקבל כ-0.5 טוק' לשנייה על מחשב פשוט עם 16 RAM עם SparkMoE), ומשפחת מודלי Qwen 4 שתשוחרר בקרוב. - הוספת תמיכה בטבלאות
n-gramוטעינתם לדיסק במקום ל-RAM - רלוונטי במיוחד עבור Qwen 3.8 Flash Next ומשפחת מודלי Qwen 4 העתידיים. - ניהול נוח יותר של כלל ההגדרות, כולל הגדרה פר מודל.
- שיפורים רבים נוספים.