[Question]: UIE获取梯度

[DavidKongKK]

请提出你的问题

目前我有已经finetune过的UIE模型，想在评测过程中获取每个token关于预测结果的积分梯度获得显著性得分。我尝试过在evaluate.py中调用start_prob与end_prob的backward()并查看其grad属性，但是其值永远是1，如下图

请问这样的结果是为什么，我应该怎样获取正确的梯度。

[guoshengCS]

请问是直接使用start_prob.backward()这样吗，因为这个是最后的输出进行反向的话其梯度确实是会被赋值为1

[DavidKongKK]

感谢您的回复！
是的，当我使用paddle.grad(inputs=[input_ids], outputs=[start_prob], allow_unused=True)求梯度时，返回错误如下
RuntimeError: (PermissionDenied) Variable generated_var_204 inside inputs has no gradient [Hint: Expected input->GradVarBase() && !input->OverridedStopGradient() == true, but received input->GradVarBase() && !input->OverridedStopGradient():0 != true:1.] (at /paddle/paddle/fluid/imperative/partial_grad_engine.cc:668)
请问要得到正确的梯度应该以怎样的思路操作，谢谢！

[DavidKongKK]

@guoshengCS @linjieccc 补充一下，使用named_parameter打印出网络结构以及每一层的param.grad，可以看到最后几层的梯度为None，例如