Skip to content

LlamaTray v1.0.0

Choose a tag to compare

@DolbyDAX2 DolbyDAX2 released this 22 May 03:20
· 17 commits to main since this release

LlamaTray v1.0.0 — Initial Stable Release 🦙

English | Türkçe


English

PyQt6 based Llama.cpp (llama-server) Tray Manager for Linux (Arch Linux / CachyOS).

✨ Features

  • Effortless Server Management: Start/stop llama-server with a single click
  • Zombie Process Prevention: Automatic cleanup on close or crash
  • Real-Time Monitoring: CPU, RAM, GPU, VRAM tracking (1s refresh)
  • Profile Management: Save/load/delete named configurations
  • Advanced Configuration: GPU layers, context size, port, extra params
  • Web UI Integration: One-click to open llama.cpp web interface
  • Persistent Settings: Auto-saved to ~/.llamatray/
  • GPU Agnostic: NVIDIA (pynvml), AMD (rocm-smi), integrated GPUs
  • Native Linux: Wayland & KDE Plasma support

📦 Arch Linux Package

sudo pacman -U llamatray-1.0.0-1-any.pkg.tar.zst
LlamaTray

Türkçe

Linux için PyQt6 tabanlı Llama.cpp (llama-server) Tepsi Yöneticisi.

✨ Özellikler

  • Kolay Sunucu Yönetimi: llama-server'ı tek tıkla başlatın/durdurun
  • Zombi Süreç Koruması: Kapatma veya çökme durumunda otomatik temizlik
  • Gerçek Zamanlı İzleme: CPU, RAM, GPU, VRAM takibi (1sn aralık)
  • Profil Yönetimi: İsimli yapılandırmaları kaydedin/yükleyin/silin
  • Gelişmiş Yapılandırma: GPU katmanları, context boyutu, port, ek parametreler
  • Web UI Entegrasyonu: Tek tıkla llama.cpp web arayüzünü açın
  • Kalıcı Ayarlar: ~/.llamatray/ dizinine otomatik kayıt
  • GPU Bağımsız: NVIDIA (pynvml), AMD (rocm-smi), tümleşik GPU'lar
  • Yerel Linux: Wayland & KDE Plasma desteği

📦 Arch Linux Paketi

sudo pacman -U llamatray-1.0.0-1-any.pkg.tar.zst
LlamaTray

🔗 Links / Bağlantılar