这篇文章主要为大家详细介绍了Pytorch获取无梯度TorchTensor中的值的简单示例,具有一定的参考价值,可以用来参考一下。
感兴趣的小伙伴,下面一起跟随四海网的雯雯来看看吧!
使用两个网络并行运算,一个网络的输出值要给另一个网络反馈。而反馈的输出值带有网络权重的梯度,即grad_fn=<XXXBackward0>.
这时候如果把反馈值扔到第二网络中更新,会出现第一个计算图丢失无法更新的错误。哎哟喂,我根本不需要第一个网络的梯度好吗?
一开始用了一个笨办法,先转numpy,然后再转回torch.Tensor。因为numpy数据是不带梯度的。
但是我的原始tensor的放在cuda上的,
代码如下:
t_error = td_error.cuda().data.cpu().numpy()
t_error = torch.FloatTensor(t_error).to(device)
Pytorch获取无梯度TorchTensor中的值
从cuda转回了cpu,变成numpy,又转成了tensor,又回到了cuda上,坑爹呢这是,可能只有我才能写出如此低效的辣鸡代码了。
后来发现,其实直接在返回的时候添加
代码如下:
with torch.no_grad():
td_error = reward + GAMMA * v_ - v
Pytorch获取无梯度TorchTensor中的值
即可.
Pytorch中的Tensor的shape是(B, C, W, H),
代码如下:
C, H, W = tensor.shape[1], tensor.shape[2], tensor.shape[3]
for c in range(C):
mean = torch.mean(x[0][c])
for h in range(H):
for w in range(W):
if x[0][c][h][w] >= mean:
x[0][c][h][w] = mean
Pytorch获取无梯度TorchTensor中的值
以上为个人经验,希望能给大家一个参考,也希望大家多多支持四海网。
本文来自:http://www.q1010.com/181/18510-0.html
注:关于Pytorch获取无梯度TorchTensor中的值的简单示例的内容就先介绍到这里,更多相关文章的可以留意四海网的其他信息。
关键词:python
四海网收集整理一些常用的php代码,JS代码,数据库mysql等技术文章。