PyTorch Conv2D返回零输入张量的非零输出?

Bmion

如果将仅包含零的数组输入到Conv2D图层,则输出也应仅包含零。在TensorFlow中就是这种情况。但是,在PyTorch中不是。这是一些非常简单的Python示例代码来演示这一点。在这种情况下,为什么PyTorch输出非零数字?

import torch
import numpy as np

image = np.zeros((3,3,3), dtype=np.float32)
batch = np.asarray([image])

a = torch.nn.Conv2d(3,3,1)
b = a(torch.tensor(batch).permute(0,3,1,2))

print(b.permute(0,2,3,1))
贝瑞尔

Tensorflow不同,PyTorch使用非零值初始化偏差(请参见源代码):

def reset_parameters(self) -> None:
    init.kaiming_uniform_(self.weight, a=math.sqrt(5))
    if self.bias is not None:
        fan_in, _ = init._calculate_fan_in_and_fan_out(self.weight)
        bound = 1 / math.sqrt(fan_in)
        init.uniform_(self.bias, -bound, bound)

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

pytorch conv2d配重

来自分类Dev

自定义conv2d操作Pytorch

来自分类Dev

pytorch conv2d的源代码在哪里?

来自分类Dev

在PyTorch中如何实现Conv2d的算法

来自分类Dev

我们如何在PyTorch中将线性层的输出提供给Conv2D?

来自分类Dev

PyTorch nn.Conv2d输出补偿

来自分类Dev

如何基于模运算在PyTorch张量的末端添加零?

来自分类Dev

何时在Conv2d()中使用填充以及何时进行ReflectionPad2d()Pytorch

来自分类Dev

从Pytorch的4D张量中查找具有零的索引

来自分类Dev

pytorch输入张量大小错误的尺寸Conv1D

来自分类Dev

如何在pytorch中实现Conv2d的棋盘大步?

来自分类Dev

PyTorch conv2d不传播torch.channels_last内存格式

来自分类Dev

Pytorch加权张量

来自分类Dev

如何展开PyTorch张量?

来自分类Dev

pytorch,如何扩展张量

来自分类Dev

PyTorch grid_sample 返回零数组

来自分类Dev

从Pytorch模型输出权重

来自分类Dev

Pytorch BERT:输入错误

来自分类Dev

了解PyTorch conv1D的输入形状吗?

来自分类Dev

如何摆脱Pytorch张量中充满零的每一列?

来自分类Dev

使用条件裁剪或阈值张量并在PyTorch中将结果零填充

来自分类Dev

pytorch中的张量变换?

来自分类Dev

PyTorch中的左移位张量

来自分类Dev

一维张量的Pytorch CrossEntropyLoss

来自分类Dev

pytorch张量进行尺寸扩展

来自分类Dev

从Pytorch张量获取值的范围

来自分类Dev

在pytorch张量中过滤行

来自分类Dev

pytorch:如何堆叠2张量

来自分类Dev

如何从Pytorch的2D张量列表中获取列