重庆网站联盟,做宠物店网站,关于做展厅的网站,紧急消息石家庄一、ReLU
torch.nn.ReLU(inplaceFalse)官网提供的API 其中inplace表示是否在对原始数据进行替换
由函数图可以看出#xff0c;负数通过ReLU之后会变成0#xff0c;正数则不发生变化 例如#xff1a;input -1#xff0c;若inplace True#xff0c;表示对原始输入数据进…一、ReLU
torch.nn.ReLU(inplaceFalse)官网提供的API 其中inplace表示是否在对原始数据进行替换
由函数图可以看出负数通过ReLU之后会变成0正数则不发生变化 例如input -1若inplace True表示对原始输入数据进行替换当通过ReLU函数(负数输出均为0)之后input 0 若inplace False(默认)表示不对原始输入数据进行替换则需要通过另一个变量(例如output)来对ReLU函数的结果进行接收存储通过ReLU函数之后output 0input -1
二、ReLU函数使用
创建一个二维tensor数据通过reshape转换成(batch_size,channel,H,W)类型数据格式 传入仅含有ReLU的神经网络中运行结果可以看出负数都变成了0正数均保持不变
import torch
from torch import nninput torch.tensor([[1,-0.7],[-0.8,2]])input torch.reshape(input,(-1,1,2,2))print(input)tensor([[[[ 1.0000, -0.7000],[-0.8000, 2.0000]]]])
class Beyond(nn.Module):def __init__(self):super(Beyond,self).__init__()self.relu_1 torch.nn.ReLU()def forward(self,input):output self.relu_1(input)return outputbeyond Beyond()
output beyond(input)
print(output)tensor([[[[1., 0.],[0., 2.]]]])三、ReLU训练CIFAR-10数据集上传至tensorboard
import torch
import torchvision
from torch import nn
from torch.utils.data import DataLoader
from torch.utils.tensorboard import SummaryWriterdataset_test torchvision.datasets.CIFAR10(CIFAR_10,trainFalse,transformtorchvision.transforms.ToTensor(),downloadTrue)dataloader DataLoader(dataset_test,batch_size64)class Beyond(nn.Module):def __init__(self):super(Beyond,self).__init__()self.relu_1 torch.nn.ReLU()def forward(self,input):output self.relu_1(input)return outputwriter SummaryWriter(y_log)beyond Beyond()
i0
for data in dataloader:imgs,targets datawriter.add_images(input_ReLU,imgs,i)output beyond(imgs)writer.add_images(output_ReLU,output,i)i i 1writer.close()
在Terminal下运行tensorboard --logdiry_log --port9999logdir为打开事件文件的路径port为指定端口打开 通过指定端口9999进行打开tensorboard若不设置port参数默认通过6006端口进行打开。 点击该链接或者复制链接到浏览器打开即可
四、Sigmoid
torch.nn.Sigmoid
五、Sigmoid函数使用
创建一个二维tensor数据通过reshape转换成(batch_size,channel,H,W)类型数据格式 传入仅含有Sigmoid的神经网络中代入Sigmodi公式即可得到相应返回结果
import torch
from torch import nninput torch.tensor([[1,-0.7],[-0.8,2]])input torch.reshape(input,(-1,1,2,2))print(input)tensor([[[[ 1.0000, -0.7000],[-0.8000, 2.0000]]]])
class Beyond(nn.Module):def __init__(self):super(Beyond,self).__init__()self.sigmoid_1 torch.nn.Sigmoid()def forward(self,input):output self.sigmoid_1(input)return outputbeyond Beyond()
output beyond(input)
print(output)tensor([[[[0.7311, 0.3318],[0.3100, 0.8808]]]])六、Sigmoid训练CIFAR-10数据集上传至tensorboard
import torch
import torchvision
from torch import nn
from torch.utils.data import DataLoader
from torch.utils.tensorboard import SummaryWriterdataset_test torchvision.datasets.CIFAR10(CIFAR_10,trainFalse,transformtorchvision.transforms.ToTensor(),downloadTrue)dataloader DataLoader(dataset_test,batch_size64)class Beyond(nn.Module):def __init__(self):super(Beyond,self).__init__()self.sigmoid_1 torch.nn.Sigmoid()def forward(self,input):output self.sigmoid_1(input)return outputwriter SummaryWriter(y_log)beyond Beyond()
i0
for data in dataloader:imgs,targets datawriter.add_images(input_Sigmoid,imgs,i)output beyond(imgs)writer.add_images(output_Sigmoid,output,i)i i 1writer.close()
在Terminal下运行tensorboard --logdiry_log --port9999logdir为打开事件文件的路径port为指定端口打开 通过指定端口9999进行打开tensorboard若不设置port参数默认通过6006端口进行打开。
