Skip to content

triflt/eff-dl-project

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

51 Commits
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Efficient DL ITMO 2025

QAT c конвертацей в Int8 и оценка качества на CPU

Анализ методов квантизации.

Что ожидается от проекта, сравнение не менее 5 ти методов Quantization Aware Training для для трех типов моделей LSTM - классификатор текста (ROCAUC), ESPCN - super resolution (PSNR), SASRec - рекомендательная система (NDCG@10).

Список методов: LSQ, PACT, AdaRound, APoT (Additive Powers-of-Two) + 1 на выш выбор, все для INT8.

Требуется проверить какой метод работает лучше для каждого типа модели. Протестировать работу с разными гиперпараметрами. Для анализа QAT мы используем фейковую квантизацию. Лучший метод конвертируем в реальный INT8 и смотрии на качество и скорость работы на CPU.

Подробнее про LSTM

About

No description, website, or topics provided.

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

No releases published

Packages

 
 
 

Contributors