Skip to content
Merged
Changes from all commits
Commits
File filter

Filter by extension

Filter by extension

Conversations
Failed to load comments.
Loading
Jump to
Jump to file
Failed to load files.
Loading
Diff view
Diff view
26 changes: 13 additions & 13 deletions docs/api/paddle/distributed/Strategy_cn.rst
Original file line number Diff line number Diff line change
Expand Up @@ -35,11 +35,11 @@ sharding

优化器分片策略,包含以下配置项:

- **``enable``** (bool) - 是否启用优化器分片策略。默认:False。
- **enable** (bool) - 是否启用优化器分片策略。默认:False。

- **``stage``** (int) - 可以设置为 1、2 或 3。1 表示切分优化器状态,2 代表切分优化器状态和梯度,3 表示切分优化器状态、梯度和参数。默认:1。
- **stage** (int) - 可以设置为 1、2 或 3。1 表示切分优化器状态,2 代表切分优化器状态和梯度,3 表示切分优化器状态、梯度和参数。默认:1。

- **``degree``** (int) - 分片的数量。默认:8。
- **degree** (int) - 分片的数量。默认:8。

**代码示例**

Expand All @@ -51,11 +51,11 @@ fused_passes

计算融合策略,包含以下配置项:

- **``enable``** (bool) - 是否启用计算融合策略。默认:False。
- **enable** (bool) - 是否启用计算融合策略。默认:False。

- **``gemm_epilogue``** (bool) - 是否融合 ``Linear`` 层中的 ``matmul`` 和 ``add`` 计算。默认:False。
- **gemm_epilogue** (bool) - 是否融合 ``Linear`` 层中的 ``matmul`` 和 ``add`` 计算。默认:False。

- **``dropout_add``** (bool) - 是否融合 ``dropout`` 和 ``add`` 计算。默认:False。
- **dropout_add** (bool) - 是否融合 ``dropout`` 和 ``add`` 计算。默认:False。

**代码示例**

Expand All @@ -67,11 +67,11 @@ gradient_merge

梯度融合策略,包含以下配置项:

- **``enable``** (bool) - 是否启用梯度融合策略。默认:False。
- **enable** (bool) - 是否启用梯度融合策略。默认:False。

- **``k_steps``** (int) - 梯度融合的步数。默认:1。
- **k_steps** (int) - 梯度融合的步数。默认:1。

- **``avg``** (bool) - 是否平均梯度。默认:True。
- **avg** (bool) - 是否平均梯度。默认:True。

**代码示例**

Expand All @@ -83,13 +83,13 @@ pipeline

流水线并行策略,包含以下配置项:

- **``enable``** (bool) - 是否启用流水线并行策略。默认:False。
- **enable** (bool) - 是否启用流水线并行策略。默认:False。

- **``schedule_mode``** (str) - 流水线并行的调度模式。默认:1F1B。
- **schedule_mode** (str) - 流水线并行的调度模式。默认:1F1B。

- **``micro_batch_size``** (int) - mini-batch 中包含的每个 micro-batch 的大小。默认:1。
- **micro_batch_size** (int) - mini-batch 中包含的每个 micro-batch 的大小。默认:1。

- **``accumulate_steps``** (int) - 累积步数。默认:1。
- **accumulate_steps** (int) - 累积步数。默认:1。

**代码示例**

Expand Down