Skip to content

AI_HW_Acceleration

Anton Gerasimov edited this page Mar 18, 2024 · 7 revisions

Варианты HW ускорителей для AI-браузера:

  • GPU
  • SIMD
  • MLIR (custom designed AI-chip).

MLIR


SIMD и AVX

Сколько векторных (SIMD) инструкций использует Chromium (Chrome) сейчас: [Векторные инструкции в Chromium]

Рассмотрим варианты ускорения на AVX векторах для ML

  • RNN ускорение на AVX-512

Оптимизация RNN на AVX-512

  • Сравнение изображений

Метод SIMD подходит для ускорения вычислений метрик сравнения картинок. Т.е. превращения картинок в вектора с мерой похожести.

Рассмотрим пример классификации рекламных баннеров для этой задачи.


Clone this wiki locally