深度学习三:分类问题之概率生成模型

分类问题:概率生成模型

课程例子:通过宝可梦的一些属性能不能预测出这个宝可梦属于哪个类型。
  1. 用于分类的训练集数据(一直宝可梦的属性和他所属于的种类)
  2. 如果考虑用线性回归的方式来做这件事情,如果输入数据,通过函数得到的值接近1,我们就说这只宝可梦是种类1,如果接近-1,我们说是种类2,但是这样可能出现对于太偏离的点当我们做线性回归预测的时候使得函数像这边偏移。
  3. 所以考虑概率生成模型:步骤: 首先定义一个概率模型: 找到最好的概率函数(产生这些点的可能性最大) 找到最好的模型,用测试数据去测试。
  4. 如果找出来的高斯模型error很大,我们可以考虑增加模型参数,例如可以考虑宝可梦的更多属性,但是这样的话可能会过拟合,导致error还是很大,多以采取的方式就是两个不同的属性共用一个协方差(协方差与属性的平方成正比,如果属性过多,协方差就会很大,也就会导致过拟合,当两种属性选择同一个协方差的时候可以减少error)
  5. 如果我们把概率模型重写一下会得到一个很有用的函数(Sigmoid function)
经验分享 程序员 微信小程序 职场和发展