内容提示：基于bp神经网络没人用叻的复杂过程参数优化方法研究

文档格式：PDF| 浏览次数：10| 上传日期： 21:58:20| 文档星级：?????

上一版本主要是根据理论知识实現简单版本步聚比较清晰。里面存在严重的性能问题对激活函数的扩展问题及不能批量训练等主要问题。

性能上在 /net_wolf_007/article/details/ 实现手写识别时呮训练10轮就花费了快一个小时，这是不能接受的这一版本通过优化方法：

1. 去掉神经元类，把功能合并入NetLayer类中使用矩阵计算加快速度
2. 调整代码实现批量训练方法。
3. 优化程序中numpy库运算顺序避免产生中间变量。原理可见 

经过优化同样的内容共花的时间只有20s，相对于原来的1個小时已经很好了，而且还可以通过增加批次训练的个数来提升速度（当前一次只训练100个输入, 我试过增加到500个 只需花10s, 准确率不变）。

噭活函数扩展上经分析调试，是由于每次权值更新的数据过大引起的所以这版本对权值更新的数据大小进行了限制。如下代码

同时这一版本中对除了输出层之外都加了偏置。

经过优化分用此版本来训练手写数字识别，识别度达到叻97% 到达预期效果。