Pytorch使用autograd.Function自定义拓展神经网络

我们知道CNN这类人工神经网络都基于BP算法进行优化,因此需要误差关于权重是连续可导的,这是可以运用BP算法的前提条件;也有一些网络不满足这个条件。 1.可导 对于可连续求导的神经网络构建时采用nn.Module类即可,此时仅仅需要改写__init__和forward方法,torch会自动求导,如下面的例子: import torch import torch.nn as nn import torch.nn.functional as F class Net(nn.Module): def __init__(self): super(Net, self).__ini