企业官网建设流程全解析

网站运营写营销,大学生创新创业大赛报名时间,住房建设厅官网,wordpress 小工具 音乐播放器先把“游戏规则”全部定死#xff08;非常重要#xff09;1️⃣ 模型y wx b2️⃣ 数据#xff08;只用 1 个点#xff09;x 2 y_true 4 3️⃣ 初始参数w 1 b 0 4️⃣ Loss#xff08;平方误差#xff09;5️⃣ 学习率lr 0.1 二、前向传播#xff08;算预测#x…先把“游戏规则”全部定死非常重要1️⃣ 模型y wx b2️⃣ 数据只用 1 个点x 2 y_true 43️⃣ 初始参数w 1 b 04️⃣ Loss平方误差5️⃣ 学习率lr 0.1二、前向传播算预测1️⃣ 算预测值y_hat w x b 1 * 2 0 22️⃣ 算 lossL 1/2 * (2 - 4)^2 1/2 * 4 2三、反向传播算梯度最关键我们现在问一个问题如果我把 w 稍微变大一点点loss 是变大还是变小1️⃣ 写出 loss 关于 w 的公式2️⃣ 对 w 求导一步一步3️⃣ 代入当前数值(w x - y) (1 * 2 - 4) -2 x 2所以代入公式2grad -2 * 2 -4 解释这个「-4」是什么意思梯度是负的意味着增大 w会让 loss 下降四、SGD 更新你问的核心更新公式w_new w - lr * grad代入数值w_new 1 - 0.1 * (-4) 1 0.4 1.4五、更新之后loss 真的变小了吗验证新预测y_hat 1.4 * 2 2.8新 lossL 1/2 * (2.8 - 4)^2 1/2 * 1.44 0.722 → 0.72loss 真的下降了六、再走一步第二步更新当前参数w 1.4算梯度(w x - y) (1.4 * 2 - 4) -1.2 grad (w x - y) *x -1.2 * 2 -2.4更新w_new 1.4 - 0.1 * (-2.4) 1.64lossL 1/2 * (1.64 * 2 - 4)^2 0.13七、现在应该能“看见”梯度下降在干嘛了梯度的符号告诉你往哪边走梯度的大小告诉你走多远学习率控制步子大小八、权重更新三步走# 1. 计算损失 - 前向传播loss criterion(model(inputs), labels) # 计算预测值与真实值的差异# 2. 计算梯度 - 反向传播loss.backward() # 自动计算所有参数的梯度并存储# 3. 更新权重 - 优化器步进optimizer.step() # 根据梯度更新模型参数