DigiSim

白盒 — 一个无所遁形的神经网络

机器学习 · 约1986年

ZH
白盒 — 一个无所遁形的神经网络

正在准备展品…

操作

训练集

1 = 含有竖线 · 0 = 不含

工作原理
  1. 任务：识别左侧 4×4 图像中是否存在竖直笔画。含有竖直笔画的样本标记为类别 1，其余样本标记为类别 0；网络将从训练数据中学习分类规则。
  2. 每幅图像转换为 16 个数值，每个像素对应一个输入。球体亮度表示像素强度；神经网络实际接收的是这些数值。
  3. 连线表示模型参数。蓝色表示正权重，橙色表示负权重，线条粗细表示权重绝对值。训练开始前，权重由随机值初始化。
  4. 前向传播时，每个隐藏单元将像素值与对应权重相乘并求和；右侧明细面板显示每一步乘法。随后应用 ReLU：若加权和为负，则该单元输出为零。
  5. 两个输出得分经 Softmax 转换为类别概率，再与真实标签计算交叉熵损失。该标量用于衡量当前预测误差。
  6. 反向传播阶段，误差梯度沿网络连接反向传递（背景转为红色）。链式法则用于计算每个权重对损失的偏导数。
  7. 参数更新阶段，每个权重沿负梯度方向调整。连线粗细随权重变化，表示模型完成了一次学习步骤。
  8. “运行训练”会在完整训练集上重复前向传播、损失计算、反向传播和参数更新。随着损失下降与权重热力图逐渐形成结构，网络将学习到竖直笔画检测特征。
检查面板
运行状态
模式—卡片—类别—计算步骤—权重更新次数—训练轮次—上一轮次损失—
  • 正权重
  • 负权重
线条粗细 = 强度