Skip to content

v1.6.0 - Streaming Responses

Choose a tag to compare

View all tags
@EnzoGitHub27 EnzoGitHub27 released this 25 Jan 21:32
· 106 commits to main since this release
v1.6.0
c62f811

🌊 Streaming Responses

Le risposte dell'AI ora appaiono token-by-token in tempo reale, proprio come ChatGPT e Claude.ai!

✨ Novità

Esperienza Utente Migliorata

  • Testo che appare progressivamente durante la generazione
  • Sensazione di maggiore reattività
  • Niente più attesa dello spinner "sta pensando..."
  • Visualizzazione fluida e naturale delle risposte

Footer Aggiornato

  • Nuovo branding: 🤖 DeepAiUG by Gilles

✅ Provider Supportati

Provider Streaming Status
🖥️ Ollama locale ✅ Perfect streaming
🌐 Remote host ✅ Perfect streaming
☁️ OpenAI ⚠️ Non-streaming (fix in v1.6.1)
☁️ Anthropic Claude ⚠️ Non-streaming (fix in v1.6.1)
☁️ Google Gemini ⚠️ Non-streaming (fix in v1.6.1)

🔧 Implementazione Tecnica

  • Sostituito client.invoke() con client.stream_invoke()
  • Implementato response_generator() per estrazione incrementale
  • Usato st.write_stream() per visualizzazione real-time
  • Deduplica testo con tracking previous_text
  • Zero breaking changes ✅

🎥 Come Funziona

Prima (v1.5.1):
User: "Raccontami una storia"
🤖 sta pensando...
[... attesa ...]
AI: [TUTTA LA RISPOSTA COMPARE INSIEME]

Dopo (v1.6.0):
User: "Raccontami una storia"
AI: C'era
AI: C'era una
AI: C'era una volta
AI: C'era una volta un
[Continua fluido token-by-token] ✨

📦 File Modificati

  • app.py: Streaming implementation
  • config/constants.py: VERSION → 1.6.0
  • CHANGELOG.md: Entry v1.6.0
  • README.md: Badge + streaming section
  • ROADMAP.md: v1.6.0 ✅ completed

🐛 Bug Fix

  • Risolto problema ripetizione testo durante streaming
  • Implementato calcolo delta incrementale corretto

📚 Note

  • Breaking Changes: Nessuno ✅
  • Use Case Principale: Funziona perfettamente (Ollama 80% utenti)
  • Cloud Providers: Mantengono funzionalità normale, streaming in v1.6.1

🚀 Come Aggiornare

git pull origin main
source venv/bin/activate
streamlit run app.py
🔮 Prossimi Passi
v1.6.1 (Coming Soon)

Fix streaming per OpenAI, Anthropic, Google Gemini
Gestione format chunk diversi per provider cloud
Full Changelog: https://github.com/EnzoGitHub27/datapizza-streamlit-interface/compare/v1.5.1...v1.6.0
Assets 2
Loading