李宏毅机器学习(一补充)
一、课堂笔记
1.Error surface(误差曲面)
所谓的error surface其实就是通过尝试了不同的参数之后,计算出不同的loss,然后生成的等高线图。
2.参数的更新
深度学习和机器学习所做的事情其实都是寻找一组最佳的参数,使之可以很好的进行预测接下来的数据,使其loss最小。我们在寻找这组参数时一般使用-η∂L/∂w和-η∂L/∂b,其中我们为何在两个变化率前加负号呢?是因为我们在进行拟合的时候,我们需要最后的参数是最好的,最好的情况下函数斜率都最倾向于0,以w为例,当斜率为负,我们需要其增大,当期为正,我们需要其减小。
3.机器学习三步骤
机器学习一般需要三步流程: 1.先写出一个函数,用来带入参数,拟合数据 2.定义一个loss函数,用来评估函数的性能和参数的效率 3.训练模型寻找最佳参数 b*和w *
上一篇:
通过多线程提高代码的执行效率例子