From d2190b65235b21e6e9bb34da3010e2ae916e65f9 Mon Sep 17 00:00:00 2001 From: baiyfbupt Date: Tue, 11 Feb 2020 11:47:00 +0800 Subject: [PATCH] add english version home page --- README.md | 6 ++++-- docs/en/intro_en.md | 34 +++++++++++++++++++--------------- docs/zh_cn/intro.md | 7 +++++-- 3 files changed, 28 insertions(+), 19 deletions(-) diff --git a/README.md b/README.md index 9358d3b3f..00f153308 100644 --- a/README.md +++ b/README.md @@ -192,9 +192,11 @@ PaddleSlim是PaddlePaddle框架的一个子模块，主要用于压缩图像领 - 离线量化（post training） - 支持对权重全局量化和Channel-Wise量化 -- 蒸馏 +- 知识蒸馏 + - 支持单进程知识蒸馏 + - 支持多进程分布式知识蒸馏 -- 轻量神经网络结构自动搜索（Light-NAS） +- 神经网络结构自动搜索（NAS） - 支持基于进化算法的轻量神经网络结构自动搜索（Light-NAS） - 支持One-Shot网络结构自动搜索（Ont-Shot-NAS） - 支持 FLOPS / 硬件延时约束 diff --git a/docs/en/intro_en.md b/docs/en/intro_en.md index a96b7f95d..b0b64cba4 100644 --- a/docs/en/intro_en.md +++ b/docs/en/intro_en.md @@ -2,23 +2,27 @@ # Introduction -PaddleSlim是PaddlePaddle框架的一个子模块，主要用于压缩图像领域模型。在PaddleSlim中，不仅实现了目前主流的网络剪枝、量化、蒸馏三种压缩策略，还实现了超参数搜索和小模型网络结构搜索功能。在后续版本中，会添加更多的压缩策略，以及完善对NLP领域模型的支持。 +As a submodule of PaddlePaddle framework, PaddleSlim is an open-source library for deep model compression and architecture search. PaddleSlim supports current popular deep compression techniques such as pruning, quantization, and knowledge distillation. Further, it also automates the search of hyperparameters and the design of lightweight deep architectures. In the future, we will develop more practically useful compression techniques for industrial-level applications and transfer these techniques to models in NLP. -## 功能 -- 模型剪裁 - - 支持通道均匀模型剪裁（uniform pruning) - - 基于敏感度的模型剪裁 - - 基于进化算法的自动模型剪裁三种方式 +## Methods -- 量化训练 - - 在线量化训练（training aware） - - 离线量化（post training） - - 支持对权重全局量化和Channel-Wise量化 +- Pruning + - Uniform pruning + - Sensitivity-based pruning + - Automated model pruning -- 蒸馏 +- Quantization + - Training-aware quantization: Quantize models with hyperparameters dynamically estimated from small batches of samples. + - Training-aware quantization: Quantize models with the same hyperparameters estimated from training data. + - Support global quantization of weights and Channel-Wise quantization -- 轻量神经网络结构自动搜索（Light-NAS） - - 支持基于进化算法的轻量神经网络结构自动搜索（Light-NAS） - - 支持 FLOPS / 硬件延时约束 - - 支持多平台模型延时评估 +- Knowledge Distillation + - Single-process knowledge distillation + - Multi-process distributed knowledge distillation + +- Network Architecture Search（NAS） + - Simulated Annealing (SA)-based lightweight network architecture search method.（Light-NAS） + - One-Shot network structure automatic search. (One-Shot-NAS) + - PaddleSlim supports FLOPs and latency constrained search. + - PaddleSlim supports the latency estimation on different hardware and platforms. diff --git a/docs/zh_cn/intro.md b/docs/zh_cn/intro.md index f96beb4c5..572c16906 100644 --- a/docs/zh_cn/intro.md +++ b/docs/zh_cn/intro.md @@ -16,9 +16,12 @@ PaddleSlim是PaddlePaddle框架的一个子模块，主要用于压缩图像领 - 离线量化（post training） - 支持对权重全局量化和Channel-Wise量化 -- 蒸馏 +- 知识蒸馏 + - 支持单进程知识蒸馏 + - 支持多进程分布式知识蒸馏 -- 轻量神经网络结构自动搜索（Light-NAS） +- 神经网络结构自动搜索（NAS） + - 支持One-Shot网络结构自动搜索（Ont-Shot-NAS） - 支持基于进化算法的轻量神经网络结构自动搜索（Light-NAS） - 支持 FLOPS / 硬件延时约束 - 支持多平台模型延时评估