收集一些Python神经网络相关的练习源码，注释丰富，是一些学习Python时候自己完成的一个神经网络相关代码，或许对你有参考作用。可完成的功能有：简单神经网络实现自定义损失函数（利润最大化）、计算一个5层神经网络带L2正则化的损失函数，神经网络的优化、模拟神经网络迭代的轮数，动态控制衰减率，简单神经网络实现自定义损失函数，加入学习率的设置（指数衰减），加入L2正则化损失的实现，不包含隐层，获得一层神经网络边上的权重，并将这个权重的L2正则化损失加入名称为'losses'的集合里，定义一个滑动平均的操作，这里需要给定一个列表，每次执行这个操作时，列表里的元素都会被更新。