fix inplace bug when the first grad_var(loss_grad) is inplace var

[pangyoki]

PR types

Bug fixes

PR changes

Others

Describe

问题

对一个非叶子节点执行Inplace操作后，立即执行backward，该节点及更前的节点的梯度结果不对；但是在该节点之后再增加一个节点z，并在z上执行backward，则结果正常。

例子（以paddle.Tensor.tanh_为例）：

• 不做inplace操作

import paddle

x = paddle.ones((2,2))
x.stop_gradient = False

y = x * 2
l = y.tanh()  # not use inplace strategy
l.backward()

print("paddle x.grad: ", x.grad.numpy())
# paddle x.grad:  [[0.14130163 0.14130163]
# [0.14130163 0.14130163]]

• 执行inplace操作后，立即执行backward：结果不对

import paddle

x = paddle.ones((2,2))
x.stop_gradient = False

y = x * 2
l = y.tanh_()  # use inplace strategy
l.backward()

print("paddle x.grad: ", x.grad.numpy())
# paddle x.grad:  [[2.1413016 2.1413016]
# [2.1413016 2.1413016]]

• 执行inplace操作后，先增加一个非inplace节点，再执行backward：结果正常

import paddle

x = paddle.ones((2,2))
x.stop_gradient = False

y = x * 2
l = y.tanh_()  # use inplace strategy
l = l.sum()   # add non-inplace op node
l.backward()

print("paddle x.grad: ", x.grad.numpy())
# paddle x.grad:  [[0.14130163 0.14130163]
# [0.14130163 0.14130163]]

原因分析

• 现象分析：
  执行inplace操作后，马上执行backward反向，表示反向的第一个grad_var（一般为loss_grad）为inplace var。
  从打印的结果及log分析，这种情况出错的原因在于，该inplace var进行了不必要的梯度累加操作。

• 出现不必要梯度累加的原因在于：
  在BasicEngine::Init()方法里，对loss_grad进行初始化并获取第一个反向grad_node（init_node）时，会在获取了init_node后，将loss_grad的grad_node clear掉，也就是loss_grad没有grad_node了，导致loss_grad被识别为叶子节点。
  又由于loss_grad是一个inplace var，这个inplace var在网络中出现了多次，叶子节点出现多次时便会出现梯度累加操作。

• 结论：
  在BasicEngine::Init()方法里，将loss_grad的grad_node clear掉了，导致非叶子节点被误认为是叶子节点，引起梯度累加。

修复

在BasicEngine::Init()方法里，不clear loss_grad的grad_node，也就是loss_grad在反向执行时仍然为非叶子节点。

这样修改后，会导致test_custom_grad_input单测报错，也就是与 PR #34582 冲突。
原因是，test_custom_grad_input需要对传入的初始grad var（有可能是中间节点）进行梯度累加。loss_grad从叶子节点变成非叶子节点后，梯度累加器的实现发生了变化。这个PR也修复了这个问题，将传入的初始grad var的梯度累加器变成了梯度聚合方式。

• 叶子节点的accumulator变成非叶子节点的accumulators_with_grad_node_
• 梯度累加变成梯度聚合，让传入的初始grad var的ref_cnt和cur_cnt都设置为1

[paddle-bot-old]

Thanks for your contribution!
Please wait for the result of CI firstly. See Paddle CI Manual for details.

[zhwesky2010]

这两行的作用是？

[pangyoki]

可参考PR #34582 。BasicEngine::Init()中，如果传入的grad var（设置好了初始grad值）是一个中间节点，反向计算时，需要对这个中间节点做梯度累加操作。
因为本PR将传入的grad var从叶子节点变成了非叶子节点，导致原梯度累加操作发生了变化，需要指定其ref cnt和cur cnt做梯度聚合。
可以理解成，传入的这个grad var已经是某一个op的输出（不存在的op），在后续操作中，如果这个grad var又作为网络中一个op的输出的话，就可以做梯度聚合了。

[MingMingShangTian]

LGTM

[zhiqiu]

LGTM