Skip to content

Latest commit

 

History

History
32 lines (19 loc) · 1.18 KB

XavierUniform_cn.rst

File metadata and controls

32 lines (19 loc) · 1.18 KB
Raw

XavierUniform

.. py:class:: paddle.nn.initializer.XavierUniform(fan_in=None, fan_out=None, name=None)

使用均匀分布的泽维尔权重初始化方法。泽维尔权重初始化方法出自泽维尔·格洛特和约书亚·本吉奥的论文 Understanding the difficulty of training deep feedforward neural networks 。

该初始化函数用于保持所有层的梯度尺度几乎一致。在均匀分布的情况下，取值范围为 [-x,x]，其中

x = \sqrt{\frac{6.0}{fan\_in+fan\_out}}.

参数

  • fan_in (float，可选) - 用于泽维尔初始化的 fan_in，从 Tensor 中推断，默认值为 None。
  • fan_out (float，可选) - 用于泽维尔初始化的 fan_out，从 Tensor 中推断，默认值为 None。
  • name (str，可选) - 具体用法请参见 :ref:`api_guide_Name`，一般无需设置，默认值为 None。

返回

由使用均匀分布的泽维尔权重初始化方法得到的参数。

代码示例

COPY-FROM: paddle.nn.initializer.XavierUniform