ARTICLE · 1220061
AI + GIS 学习第四天:用 PyTorch 看懂一次
AI + GIS 学习第四天:用 PyTorch 看懂一次
AI + GIS 学习第四天:用 PyTorch 看懂一次
今天带你看模型参数是怎么改的。先拿三个数开刀:0.1、0.2、0.4。
两条样本送进去,第一条预测出 1.7,第二条算出 3.8。本该是 2 和 4,都有点偏低。一算均方误差,损失是 0.065。
接着调用 backward() 往回求导。三个梯度分别是 -1.1、-1.6、-2.1。负数说明啥?说明把权重往大了调,损失就能降下来。
注意,这一步只管算梯度,权重还是原样没动。真要改,得靠这句代码:
w -= 0.01 * w.grad
学习率定 0.01,三个新权重就变成了 0.111、0.216、0.421。重新跑一遍,预测变成 1.806 和 4.050,损失直接降到 0.020068。
虽然第二条样本从略低变成了略高,但平方误差的平均值确实变小了。训练优化的就是整体损失,不要求每条都完美命中。
说白了,一次更新只能说明当前这两条数据有效。学习率太大还可能一步跨过头,导致损失反而上升。
原文AI + GIS 学习第四天:用 PyTorch 看懂一次参数更新
北京,2小时前,















































































