Skip to content

Token estimates.ru

Anton Aliev edited this page Oct 24, 2026 · 2 revisions

Оценка токенов · сначала доказательства

English version · Главная

База сравнения — необходимый контекст запроса. Размер целого файла не заменяет её автоматически.

---
config:
  theme: base
  themeVariables:
    primaryColor: "#CCE4F7"
    primaryTextColor: "#1A1A1A"
    primaryBorderColor: "#2D7FD3"
    lineColor: "#0067C0"
    secondaryColor: "#FAFAFA"
    tertiaryColor: "#F3F3F3"
---
flowchart TD
  task["Контекст альтернативы известен?"] -->|Нет| unknown["Оценить нельзя"]
  task -->|Да| seen["Уже был в облачном контексте?"]
  seen -->|Да| zero["Без зачёта чтения источника"]
  seen -->|Нет| credit["Зачёт только необходимого контекста"]
  zero --> cost["Вычесть полный ответ и накладные расходы запроса"]
  credit --> cost
  cost --> result["Условная экономия или дополнительные токены"]
Loading

Явный текстовый сценарий: S - V - 2R, где S — необходимый новый контекст источника, V — полный видимый ответ, R — запрос. Локальная генерация автоматически не считается сэкономленной облачной генерацией. Если происхождение данных или база сравнения неизвестны, оценка также остаётся неизвестной.

При разборе лога с пользовательским вопросом база сравнения обозначается как UNKNOWN: нельзя засчитывать весь лог как контекст, который иначе пришлось бы передать в облако. При разборе лога компилятора ответ модели на этот вопрос выводится отдельно от перечня диагностик, прошедшего строгую проверку.

Пример: файл на 100 000 токенов и задача на 4 000

Если задача требует 4 000 токенов источника, ответ занимает 600, а запрос — 100, учебное сравнение: 4 000 - 600 - 200 = 3 200, а не 99 200. Если источник уже прочитан, зачёт становится нулевым, и тот же вызов добавляет 800 токенов. Пример не является замером или расходом аккаунта.

Учебный калькулятор · Полная методика и ограничения.


Source: dedd223a9af7. Changes via pull request.

Clone this wiki locally