Repository navigation
Avvio
Alessio Casarotto edited this page Oct 18, 2026
·
3 revisions
| Cosa vuoi fare | Comando |
|---|---|
| Avvio con un clic (Windows) | doppio clic su Banana.bat (serve llama.cpp compilato, vedi sotto) |
| Avvio con un clic (macOS) | doppio clic su Banana.app (sul Desktop, creata da scripts/make_app.sh) |
| Avviare l'interfaccia web |
./run_qwen_server.sh poi apri http://127.0.0.1:8080
|
| Avviare con il ragionamento sempre attivo | ./run_qwen_server.sh --reasoning on |
| Usare un'altra porta | ./run_qwen_server.sh --port 9090 |
| Chat da terminale (programma C++) | ./llm |
| Chat da terminale con un modello specifico | ./llm /percorso/modello.gguf |
| Chat da terminale (llama-cli) | ./run_qwen.sh |
| Singola risposta e uscita | ./run_qwen.sh -p "Ciao, chi sei?" -n 60 -st |
| Fermare il server |
Ctrl+C nel terminale, oppure pkill -x llama-server
|
./llm cerca Qwen3-4B-Q4_K_M.gguf nella cartella corrente e in quelle superiori. scripts/run_qwen.sh usa sempre il 4B.
- Doppio clic: avvia il server se non è già attivo, aspetta che risponda e apre Banana in una finestra senza barra del browser.
- Chiudendo la finestra il server si spegne dopo pochi secondi e libera la RAM. Se il server era già stato avviato a mano, non viene spento.
- Usa il tuo profilo Chrome, quindi chat e memoria sono le stesse del browser.
- Prima apertura: macOS chiede il permesso per la cartella Desktop e per controllare Google Chrome. Vanno accettati; se neghi il secondo, il server non si spegne più da solo.
- Se sposti la cartella
llm/, rigenera l'app conbash scripts/make_app.sh.
- Compila llama.cpp con CMake (Visual Studio Build Tools) con gli stessi comandi di sopra;
llama-server.exefinisce inllama.cpp\build\bin\Release\. - Python 3 (comando
pyopython) serve per ricerca web e archivio su file; senza, Banana parte lo stesso ma senza quelle funzioni. La ricerca usacurl.exe, incluso in Windows 10/11. -
Banana.bat: avvia il server, apre Banana in una finestra senza barra (Edge, oppure Chrome) e spegne il server alla chiusura. Usa il profilo del browser, quindi chat e memoria restano le stesse. -
run_qwen_server.ps1: solo il server (powershell -ExecutionPolicy Bypass -File run_qwen_server.ps1). - Non testato su Windows (sviluppato su Mac). Se la chiusura della finestra non viene rilevata, il launcher chiede di premere Invio per spegnere il server. Le statistiche RAM/swap nella barra superiore sono pensate per macOS e su Windows possono risultare vuote.
cd llama.cpp/tools/ui && npm install && npm run build
cd ../../build && cmake --build . --target llama-server -j4Poi riavvia il server. Se la pagina non cambia, svuota la cache del browser (le risorse hanno cache lunga e c'è un service worker).