bp神经网络隐含层神经元个数_闲话神经网络
去年写的一篇神经网络杂文,把之前收集的神经网络点点滴滴串联起来,便于理解,如有不当,麻烦及时指出。
(1)神经网络发展历史
先看几张图:
神经网络三次兴起:
-
第一次,控制论时代,1958年,感知器诞生,能分类,但解决不了异或问题; 第二次,联结主义时代,BP网络诞生,加非线性激活函数,解决了异或,但受限于理论不完善(局部最优,黑盒)+数据少+训练方法+计算能力,败于SVM与概率图; 第三次,2006年,祖师爷Goeffrey Hinton坐了几十年冷板凳,琢磨出pre-training,DBN等,接着一发不可收拾。Yann LeCun将CNN发扬光大(将BP与CNN结合,推出第一个可用的Le-Net,深度学习入门者的hello world),J
下一篇:
Linux中的目录的文件时间