1 optimizer类实例 1.1 介绍 属性 【default】该实例的类型为 dict，元素为初始化时候的学习率等，具体的keys为 ['lr','mom...
嘿，神经网络的训练就像开车，而优化算法就是那个聪明的导航系统。你听说过动量法吗？是的，它能帮你减少方向上的震荡，就像给方向盘装上了减震器，让你的车...
目录 1 前言 2 梯度概念 3 一般梯度下降法 4 BGD 5 SGD 6 MBGD 7 Momentum 8 SGDM（SGD with momentum） 9 NAG(Nesterov Accelerated Gradient)...
