在货源网站自己拿样 加盟 做代理 哪个比较好?,新站网站建设,网络品牌推广,手机微信网站开发通过本篇文章可以对机器学习ML的常用算法有个常识性的认识#xff0c;没有代码#xff0c;没有复杂的理论推导#xff0c;就是图解一下#xff0c;知道这些算法是什么#xff0c;它们是怎么应用的#xff0c;例子主要是分类问题。
算法如下#xff1a; 决策树随机森林算…通过本篇文章可以对机器学习ML的常用算法有个常识性的认识没有代码没有复杂的理论推导就是图解一下知道这些算法是什么它们是怎么应用的例子主要是分类问题。
算法如下 决策树随机森林算法逻辑回归SVM朴素贝叶斯K最近邻算法K均值算法Adaboost 算法神经网络马尔可夫1. 决策树
根据一些 feature 进行分类。每个节点就对某一个 feature 进行判断进而将数据分为两类对分成的两类再继续根据 feature 进行判断 。这些 feature 的先后和层级是根据已有数据学习出来的通过学习形成了一棵树。当投入新数据的时候就可以根据这棵树上的问题一层一层判断最后将数据分类到合适的叶子上。 2. 随机森林
视频 在源数据中随机选取数据组成几个子集subset 1subset 2subset 3......。通过矩阵的方式来表示就是S 矩阵是源数据有 1-N 条数据A B C 是 feature最后一列C是类别。 由 S 随机生成 M 个子矩阵S1, S2...Sm。这 M 个子集得到 M 个决策树Decision tree1, Decision tree2...Decision treem。将新数据投入到这 M 个树中得到 M 个分类结果class1, class2...classm计数看预测成哪一类的数目最多就将此类别作为最后的预测结果 3. 逻辑回归
视频
当预测目标是概率这样的值域需要满足大于等于0小于等于1的这个时候单纯的线性模型是做不到的因为在定义域不在某个范围之内时值域也超出了规定区间左所以此时需要右图的形状的模型会比较好。 这个模型需要满足两个条件 大于等于0小于等于1 大于等于0 的模型可以选择 绝对值平方值这里用指数函数一定大于0 小于等于1 用除法分子是自己分母是自身加上1那一定是小于1的了再做一下变形就得到了 logistic regression 模型。 通过源数据计算可以得到相应的系数了最后得到 logistic 的图形。 4. SVM
视频
要将两类分开想要得到一个超平面最优的超平面是到两类的 margin 达到最大margin就是超平面与离它最近一点的距离如下左图Z2Z1所以绿色的超平面比较好。将这个超平面表示成一个线性方程在线上方的一类都大于等于1另一类小于等于1。 点到面的距离根据图中的公式计算 所以得到 total margin 的表达式如下目标是最大化这个 margin就需要最小化分母于是变成了一个优化问题 举个栗子三个点找到最优的超平面定义了 weight vector2311 得到 weight vector 为a2a将两个点代入方程代入23另其值1代入11另其值-1求解出 a 和 截矩 w0 的值进而得到超平面的表达式。 a 求出来后代入a2a得到的就是 support vector
a 和 w0 代入超平面的方程就是 support vector machine
5. 朴素贝叶斯
视频
举个在 NLP 的应用
给一段文字返回情感分类这段文字的态度是positive还是negative 为了解决这个问题可以只看其中的一些单词 这段文字将仅由一些单词和它们的计数代表 原始问题是给你一句话它属于哪一类 通过 bayes rules 变成一个比较简单容易求得的问题 问题变成这一类中这句话出现的概率是多少当然别忘了公式里的另外两个概率
栗子单词 love 在 positive 的情况下出现的概率是 0.1在 negative 的情况下出现的概率是 0.001 6. K最近邻
视频
k nearest neighbours
给一个新的数据时离它最近的 k 个点中哪个类别多这个数据就属于哪一类
栗子要区分 猫 和 狗通过 claws 和 sound 两个feature来判断的话圆形和三角形是已知分类的了那么这个 star 代表的是哪一类呢 k3时这三条线链接的点就是最近的三个点那么圆形多一些所以这个star就是属于猫 7. K均值
视频
想要将一组数据分为三类粉色数值大黄色数值小 最开心先初始化这里面选了最简单的 321 作为各类的初始值 剩下的数据里每个都与三个初始值计算距离然后归类到离它最近的初始值所在类别 分好类后计算每一类的平均值作为新一轮的中心点 几轮之后分组不再变化了就可以停止了 8. Adaboost
视频
adaboost 是 bosting 的方法之一
bosting就是把若干个分类效果并不好的分类器综合起来考虑会得到一个效果比较好的分类器。
下图左右两个决策树单个看是效果不怎么好的但是把同样的数据投入进去把两个结果加起来考虑就会增加可信度 adaboost 的栗子手写识别中在画板上可以抓取到很多 features例如 始点的方向始点和终点的距离等等 training 的时候会得到每个 feature 的 weight例如 2 和 3 的开头部分很像这个 feature 对分类起到的作用很小它的权重也就会较小 而这个 alpha 角 就具有很强的识别性这个 feature 的权重就会较大最后的预测结果是综合考虑这些 feature 的结果 9. 神经网络
视频
Neural Networks 适合一个input可能落入至少两个类别里
NN 由若干层神经元和它们之间的联系组成 第一层是 input 层最后一层是 output 层
在 hidden 层 和 output 层都有自己的 classifier input 输入到网络中被激活计算的分数被传递到下一层激活后面的神经层最后output 层的节点上的分数代表属于各类的分数下图例子得到分类结果为 class 1
同样的 input 被传输到不同的节点上之所以会得到不同的结果是因为各自节点有不同的weights 和 bias
这也就是 forward propagation 10. 马尔可夫
视频
Markov Chains 由 state 和 transitions 组成
栗子根据这一句话 ‘the quick brown fox jumps over the lazy dog’要得到 markov chain
步骤先给每一个单词设定成一个状态然后计算状态间转换的概率 这是一句话计算出来的概率当你用大量文本去做统计的时候会得到更大的状态转移矩阵例如 the 后面可以连接的单词及相应的概率 生活中键盘输入法的备选结果也是一样的原理模型会更高级 出处https://www.jianshu.com/p/55a67c12d3e9
