潮阳建设局网站,淘宝客代理网站怎么做,wordpress中文版 显示英文,wordpress图片变形前言自从上次试着用最基础的线性回归训练一个有80个特征的数据集#xff0c;梯度爆炸之后#xff0c;今天拿一个简单到不能再简单的数据集试试能不能成功收敛。途中我们又会遇到什么问题#xff1f;数据集来自吴恩达机器学习课程第二周的课后练习。原本是txt文件#xff0c…前言自从上次试着用最基础的线性回归训练一个有80个特征的数据集梯度爆炸之后今天拿一个简单到不能再简单的数据集试试能不能成功收敛。途中我们又会遇到什么问题数据集来自吴恩达机器学习课程第二周的课后练习。原本是txt文件我通过下面三行代码把数据集另存为了csv可以在这里下载。import pandas as pd
df pd.read_csv(ex1data2.txt,delimiter,)
df.columns[size,bedroom,price]
df.to_csv(house_simple.csv)读取数据集数据没有分训练集和测试集房子的特征只有面积和房间数两个。 我们将通过pandas库读取并处理数据 导入这里需要的包%matplotlib inline
import d2lzh as d2l
from mxnet import autograd, gluon, init, nd
from mxnet.gluon import data as gdata, loss as gloss, nn
import numpy as np
import pandas as pd
data pd.read_csv(data/house/house_2_features.csv ,index_col0)
data.head() size bedroom price 0 1600 3 329900 1 2400 3 369000 2 1416 2 232000 3 3000 4 539900 4 1985 4 299900 data.shape
(46, 3)预处理数据集我们对连续数值的特征做标准化standardization)设该特征在整个数据集上的均值为$mu$标准差为$sigma$。那么我们可以将该特征的每个值先减去$mu$再除以$sigma$得到标准化后的每个特征值。对于缺失的特征值我们将其替换成该特征的均值。data data.apply(lambda x: (x - x.mean()) / (x.std()))data.fillna(0);标准化后每个特征的均值变为0所以可以直接用0来替换缺失值。data.head() size bedroom price 0 -0.495977 -0.226166 -0.073110 1 0.499874 -0.226166 0.236953 2 -0.725023 -1.526618 -0.849457 3 1.246762 1.074287 1.592190 4 -0.016724 1.074287 -0.311010 把数据集分成两部分训练集和测试集并通过values属性得到NumPy格式的数据并转成NDArray方便后面的训练。n_train36
train_features nd.array(data[[size,bedroom]][:n_train].values)
test_features nd.array(data[[size,bedroom]][n_train:].values)
train_labels nd.array(data.price[:n_train].values).reshape((-1, 1))
train_features.shape
(36, 2)
train_features[:3]
[[-0.4959771 -0.22616564][ 0.4998739 -0.22616564][-0.72502285 -1.526618 ]]
NDArray 3x2 cpu(0)定义模型我们使用一个基本的线性回归模型和平方损失函数来训练模型。 关于更多gluon使用的步骤请参考这里net nn.Sequential()
net.add(nn.Dense(1))初始化模型参数net.initialize(init.Normal(sigma0.01))定义损失函数loss gloss.L2Loss()定义优化算法创建一个Trainer实例并指定学习率为0.03的小批量随机梯度下降sgd为优化算法。该优化算法将用来迭代net实例所有通过add函数嵌套的层所包含的全部参数。这些参数可以通过collect_params函数获取。trainer gluon.Trainer(net.collect_params(), sgd, {learning_rate: 0.03})训练模型随机读取包含batch_size个数据样本的小批量batch_size4
train_iter gdata.DataLoader(gdata.ArrayDataset(train_features, train_labels), batch_size, shuffleTrue)
num_epochs 10
for epoch in range(1, num_epochs 1):for X, y in train_iter:with autograd.record():l loss(net(X), y)l.backward()trainer.step(batch_size)l loss(net(train_features), train_labels)print(epoch %d, loss: %f % (epoch, l.mean().asnumpy()))
epoch 1, loss: 0.349735
epoch 2, loss: 0.255017
epoch 3, loss: 0.207258
epoch 4, loss: 0.180886
epoch 5, loss: 0.166463
epoch 6, loss: 0.156838
epoch 7, loss: 0.150244
epoch 8, loss: 0.145748
epoch 9, loss: 0.142224
epoch 10, loss: 0.139501后记暂时看训练是能收敛的损失也比上次少很多很多。下次我们再看几个问题 怎么算测试集的房价 有没有过拟 损失函数的结果怎么看是大还是小新手村的小伙伴们你们有什么看法呢此处围观我的github 博客这里下载本文代码续集
