代价函数、梯度下降、cnn
代价函数
引
给定一些父亲和子女的身高数据， 找到一个数学模型，描述这种关系，从而预测一个人的身高。
回归问题（Regression)
想找的数学模型在统计学中被称为预测函数，y = f(x),假设是直线即 y = wx+b,则称为线性回归（Linear Regression）。 解决方法：最小二乘法。 e = aw^2+bw+c:代价函数（损失函数）
预测函数与代价函数
图片来自b站梗直哥、
梯度下降
代价函数(cost function)
e = aw^2+bw+c,a>0.根据代价函数，找出拟合效果最好的代价函数，找到使得误差代价最小的参数，即最低点。寻找最低点的过程，就是梯度下降。
学习率
新w = 旧w-斜率*学习率
循环迭代
不达目的不罢休。
cnn
卷积（convolution）
用极简的数学形式描述一个动态过程。（火车进山洞）
图片来自b站梗直哥、
应用领域
通信（信号—频率、调制）、物理、电路学、信号处理（滤波）、图像处理
cnn
字符识别、人脸识别、美颜 卷积层：高效特征提取。 池化层：抓住主要矛盾，忽略次要矛盾。 王者归来：AlexNet
上一篇：
通过多线程提高代码的执行效率例子