重庆网站设计哪家好,少儿培训,湖南网站推,企业名称注册查询1 逻辑回归的定位 首先#xff0c;逻辑回归是一种分类#xff08;Classification#xff09;算法。比如说#xff1a;
给定一封邮件#xff0c;判断是不是垃圾邮件给出一个交易明细数据#xff0c;判断这个交易是否是欺诈交易给出一个肿瘤检查的结果数据#xff0c;判断… 1 逻辑回归的定位 首先逻辑回归是一种分类Classification算法。比如说
给定一封邮件判断是不是垃圾邮件给出一个交易明细数据判断这个交易是否是欺诈交易给出一个肿瘤检查的结果数据判断这个肿瘤是否为恶性肿瘤 逻辑回归是互联网上最流行也是最有影响力的分类算法也是深度学习Deep Learning的基本组成单元。 2 先给出一个逻辑回归的例子 比如有下面一组数据 一门考试之前学生的复习时间与这个学生最后是否Pass这门考试的数据 数据学生复习时间与考试通过 通过这些数据利用逻辑回归算法进行模型训练可以得到最终的模型结果是这个样子 logistic equation 这样给出任何复习时间就可以预测出是否通过的概率 模型应用 3 逻辑回归拟合函数Sigmod函数逻辑函数 可以看到逻辑回归最后的分类结果是0/1因此我们选择Sigmod函数貌似是一个专业术语来拟合训练数据。Sigmod函数的形式如下它的x可以无限取值但是y就在01之间 Sigmod函数 对于最简单的只有一个自变量x的二元分类y0/1逻辑回归中构造出来的拟合函数为 最简单的逻辑回归拟合函数 所以要得到最终的模型就是根据样本点计算a和b的值. 在上一节的复习时间和考试的例子中最终计算出参数a1.5046b-4.0777因此可以得到下面的拟合函数的图像 模型的图像 4 模型参数的计算方法 Coursera上Stanford大学的机器学习课程是很好的入门课程虽说入门但是我学习起来还是特别的吃力主讲人Andrew Ng吴恩达原来是Google大脑的负责人现在在百度负责百度大脑和深度学习是业界最牛的人之一了。他的课程中详细讲解了在逻辑回归中如何来计算模型的参数我把结论的一页截图放在下面 Coursera上Stanford的机器学习课程截图 其中J就是进行拟合的成本函数 Cost Function 看起来比较复杂用我们上一节的例子来解释
m代表给出的训练样本数也就是20h函数其实代表的是我们的Sigmoid函数把样本的X值带进去就得到的是参数ab的函数y就是样本中实际的y只有01两个选择 把样本的数据都带入最后得到的就是参数ab的一个方程逻辑回归就是求出一个最好的ab的值使得这个成本函数J的值最小。 那么最终求解a和b就是一个纯数学问题了比如可以用最小二乘法和梯度下降法来求解纯数学的问题就不在这里展开了 5 多分类逻辑回归 生活中不仅仅只有分成两类的问题还有分成多个类的问题比如把邮件分成工作邮件、朋友邮件和垃圾邮件。 多分类的一般思想是利用多次分成两类计算划分到每一类的概率取概率最大的。用邮件分类的例子来说就是
将邮件分成“工作/非工作邮件”可以根据上文的算法得出工作邮件的概率将邮件分成“朋友/非朋友邮件”计算出朋友邮件的概率将邮件分成“垃圾/非垃圾邮件”计算出垃圾邮件的概率 比较三个概率取最大的那个概率作为这个邮件的分类结果。
