Skip to content

Releases

v0.1.1 — Contexto padrão de 64.000 tokens

Choose a tag to compare

@felipebocajr felipebocajr released this 28 Sep 00:30

O contexto padrão passa a 64.000 tokens, exatamente metade dos 128.000 do LFM2.5-8B-A1B, no plugin, nas preferências do Zotero e no launcher. A reserva de geração permanece em 4.096 tokens; artigo, instruções, pergunta e histórico podem ocupar até 59.904.

Instale reader-local-ai-0.1.1.xpi em Ferramentas → Plugins → Instalar plugin de arquivo e clique em Reiniciar nas configurações do assistente para aplicar o contexto ao servidor. Se você já salvou um contexto personalizado, ele continua valendo: informe 64000 para adotar esse padrão.

A comparação de precisões e a medição de memória no carregamento mantêm 32.768 explicitamente. Os helpers de instalação passaram a ler a versão do manifest e a salvar evidência de ativação por versão.

Validação: 52 testes TypeScript, 18 testes de runtime, oito verificações de preferências nativas e instalação/ativação no Zotero 10.0.3 isolado. Uma inferência real do 8B-A1B completou em CPU após falta de VRAM nas tentativas GPU/GPU-CPU, mantendo 64.000 tokens e K/V f16. A contagem prévia coincidiu com o runtime. Evidências e limites.

v0.1.0 — Assistente local de leitura

Pre-release

Choose a tag to compare

@felipebocajr felipebocajr released this 27 Sep 23:23

Primeira versão do assistente local de leitura para Zotero 10.0.x, validada no Zotero 10.0.3 em Linux.

  • Explicações e perguntas no popup da seleção, com todas as páginas extraíveis do artigo no contexto.
  • LFM2.5-2.6B e LFM2.5-8B-A1B com pesos Q4; GPU completa, distribuição GPU/CPU e fallback para CPU.
  • Início manual ou automático do servidor pelas configurações do Zotero.
  • Preferência de respostas em português do Brasil ou inglês, continuações, streaming e cancelamento.
  • Markdown e LaTeX formatados, com opção de salvar uma resposta específica nas anotações nativas do PDF.

Baixe reader-local-ai-0.1.0.xpi e instale em Ferramentas → Plugins → Instalar plugin de arquivo. Clone o projeto e execute python3 scripts/setup_runtime.py --backend auto --precision Q4_K_M para preparar o servidor e o modelo. As instruções completas estão no README.

Validação registrada: 52 testes TypeScript, 18 testes de runtime e verificações nativas no perfil isolado do Zotero. O XPI foi instalado e ativado pelo AddonManager; as evidências incluem streaming, anotações e persistência após reinício. A avaliação científica e suas limitações ficam em experiments/.