Repository navigation
Token estimates.ru
База сравнения — необходимый контекст запроса. Размер целого файла не заменяет её автоматически.
---
config:
theme: base
themeVariables:
primaryColor: "#CCE4F7"
primaryTextColor: "#1A1A1A"
primaryBorderColor: "#2D7FD3"
lineColor: "#0067C0"
secondaryColor: "#FAFAFA"
tertiaryColor: "#F3F3F3"
---
flowchart TD
task["Контекст альтернативы известен?"] -->|Нет| unknown["Оценить нельзя"]
task -->|Да| seen["Уже был в облачном контексте?"]
seen -->|Да| zero["Без зачёта чтения источника"]
seen -->|Нет| credit["Зачёт только необходимого контекста"]
zero --> cost["Вычесть полный ответ и накладные расходы запроса"]
credit --> cost
cost --> result["Условная экономия или дополнительные токены"]
Явный текстовый сценарий: S - V - 2R, где S — необходимый новый контекст источника,
V — полный видимый ответ, R — запрос. Локальная генерация автоматически
не считается сэкономленной облачной генерацией. Если происхождение данных или база
сравнения неизвестны, оценка также остаётся неизвестной.
При разборе лога с пользовательским вопросом база сравнения обозначается как UNKNOWN:
нельзя засчитывать весь лог как контекст, который иначе пришлось бы передать в облако.
При разборе лога компилятора ответ модели на этот вопрос выводится отдельно от перечня
диагностик, прошедшего строгую проверку.
Пример: файл на 100 000 токенов и задача на 4 000
Если задача требует 4 000 токенов источника, ответ занимает 600, а запрос — 100,
учебное сравнение: 4 000 - 600 - 200 = 3 200, а не 99 200.
Если источник уже прочитан, зачёт становится нулевым, и тот же вызов добавляет 800 токенов.
Пример не является замером или расходом аккаунта.
Учебный калькулятор · Полная методика и ограничения.
Source: dedd223a9af7. Changes via pull request.
MIT · Source · Privacy · Code signing policy