做网站必须用tomcat,网站开站备案,网站关键词多少个最好,莱芜网站建设开发公司pytorch深度学习的套路都差不多#xff0c;多看多想多写多测试#xff0c;自然就会了。主要的技术还是在于背后的数学思想和数学逻辑。
废话不多说#xff0c;上代码自己看。
import torch
import numpy as np
import torch.nn as nn
import torchvision
import torchvisi…pytorch深度学习的套路都差不多多看多想多写多测试自然就会了。主要的技术还是在于背后的数学思想和数学逻辑。
废话不多说上代码自己看。
import torch
import numpy as np
import torch.nn as nn
import torchvision
import torchvision.transforms as transformsclass Network(nn.Module):def __init__(self ,input_dim ,hidden_dim ,out_dim):super().__init__()self.layer1 nn.Sequential( # 全连接层 [1, 28, 28]nn.Linear(784, 400), # 输入维度输出维度nn.BatchNorm1d(400), # 批标准化加快收敛可不需要nn.ReLU() # 激活函数)self.layer2 nn.Sequential(nn.Linear(400, 200),nn.BatchNorm1d(200),nn.ReLU())self.layer3 nn.Sequential( # 全连接层nn.Linear(200, 100),nn.BatchNorm1d(100),nn.ReLU())self.layer4 nn.Sequential( # 最后一层为实际输出不需要激活函数因为有 10 个数字所以输出维度为 10表示10 类nn.Linear(100, 10),)def forward(self ,x):x self.layer1(x)x self.layer2(x)x self.layer3(x)output self.layer4(x)return output
def get_num_correct(preds, labels):return (preds.argmax(dim1) labels).sum().item()def dropout(x, keep_prob 0.5):np.random.binomial 当输入二维数组时按行按列每个维度都是按照给定概率生成1的个数
比如 输入 10 * 6的矩阵按照0.5的概率生成1 那么每列都大概会有5个1每行大概会有3个1
其实就不用考虑按行drop或者按列drop相当于每行生成的mask都是不一样的那么矩阵中每行的元素代表一层中的神经元都是按照不同的mask失活的
当矩阵形状改变行列代表的意义不一样时由于每行每列各个维度的1的个数都是按照prob留存的因此对结果没有影响。mask torch.from_numpy(np.random.binomial(1,keep_prob,x.shape))return x * mask / keep_probif __name__ __main__:train_set torchvision.datasets.MNIST(root./data, trainTrue, downloadFalse, transformtransforms.Compose([transforms.ToTensor()]))test_set torchvision.datasets.MNIST(root./data,trainFalse,downloadFalse,transformtransforms.Compose([transforms.ToTensor()]))train_loader torch.utils.data.DataLoader(train_set, batch_size512, shuffleTrue)test_loader torch.utils.data.DataLoader(test_set, batch_size512, shuffleTrue)net Network(28 * 28, 256, 10)optimizer torch.optim.SGD(net.parameters(), lr0.01)criterion nn.CrossEntropyLoss()epoch 10for i in range(epoch):train_accur 0.0train_loss 0.0for batch in train_loader:images, labels batch#images, labels images.to(device), labels.to(device)images images.squeeze(1).reshape(images.shape[0], -1)preds net(images)optimizer.zero_grad()loss criterion(preds, labels)loss.backward()optimizer.step()train_loss loss.item()train_accur get_num_correct(preds, labels)print(loss : str(train_loss) train accur: str(train_accur * 1.0 / 60000))global correctwith torch.no_grad():correct 0for batch in test_loader:images, labels batch#images, labels images.to(device), labels.to(device)images images.squeeze(1).reshape(-1, 784)preds net(images)preds preds.argmax(dim1)correct (preds labels).sum()print(correct)print(correct.item() * 1.0 / len(test_set))
