Skip to content
Alessio Casarotto edited this page Oct 18, 2026 · 3 revisions

Avvio

Cosa vuoi fare Comando
Avvio con un clic (Windows) doppio clic su Banana.bat (serve llama.cpp compilato, vedi sotto)
Avvio con un clic (macOS) doppio clic su Banana.app (sul Desktop, creata da scripts/make_app.sh)
Avviare l'interfaccia web ./run_qwen_server.sh poi apri http://127.0.0.1:8080
Avviare con il ragionamento sempre attivo ./run_qwen_server.sh --reasoning on
Usare un'altra porta ./run_qwen_server.sh --port 9090
Chat da terminale (programma C++) ./llm
Chat da terminale con un modello specifico ./llm /percorso/modello.gguf
Chat da terminale (llama-cli) ./run_qwen.sh
Singola risposta e uscita ./run_qwen.sh -p "Ciao, chi sei?" -n 60 -st
Fermare il server Ctrl+C nel terminale, oppure pkill -x llama-server

./llm cerca Qwen3-4B-Q4_K_M.gguf nella cartella corrente e in quelle superiori. scripts/run_qwen.sh usa sempre il 4B.

Banana.app

  • Doppio clic: avvia il server se non è già attivo, aspetta che risponda e apre Banana in una finestra senza barra del browser.
  • Chiudendo la finestra il server si spegne dopo pochi secondi e libera la RAM. Se il server era già stato avviato a mano, non viene spento.
  • Usa il tuo profilo Chrome, quindi chat e memoria sono le stesse del browser.
  • Prima apertura: macOS chiede il permesso per la cartella Desktop e per controllare Google Chrome. Vanno accettati; se neghi il secondo, il server non si spegne più da solo.
  • Se sposti la cartella llm/, rigenera l'app con bash scripts/make_app.sh.

Banana su Windows

  • Compila llama.cpp con CMake (Visual Studio Build Tools) con gli stessi comandi di sopra; llama-server.exe finisce in llama.cpp\build\bin\Release\.
  • Python 3 (comando py o python) serve per ricerca web e archivio su file; senza, Banana parte lo stesso ma senza quelle funzioni. La ricerca usa curl.exe, incluso in Windows 10/11.
  • Banana.bat: avvia il server, apre Banana in una finestra senza barra (Edge, oppure Chrome) e spegne il server alla chiusura. Usa il profilo del browser, quindi chat e memoria restano le stesse.
  • run_qwen_server.ps1: solo il server (powershell -ExecutionPolicy Bypass -File run_qwen_server.ps1).
  • Non testato su Windows (sviluppato su Mac). Se la chiusura della finestra non viene rilevata, il launcher chiede di premere Invio per spegnere il server. Le statistiche RAM/swap nella barra superiore sono pensate per macOS e su Windows possono risultare vuote.

Ricompilare la UI dopo averla modificata

cd llama.cpp/tools/ui && npm install && npm run build
cd ../../build && cmake --build . --target llama-server -j4

Poi riavvia il server. Se la pagina non cambia, svuota la cache del browser (le risorse hanno cache lunga e c'è un service worker).

Clone this wiki locally