DigiSim

数字/ 実験室

お使いのデバイス上で動作します
インタラクティブな機械学習ラボ

学習の仕組みを見てみよう。

手書きから始めよう。数値を追い、本物のニューラルネットワークをトレーニングしよう。

未学習チェックポイント 0
784 → 32 → 16 → 10
チェックポイント 0 · 固定
ドラッグして回転·Shift+ドラッグで移動·スクロール / ピンチでズーム
3Dジオメトリを準備中…
3D空間隠れ層のニューロンは幅、高さ、そして奥行きを占めます。間隔の調整は見た目を変えるだけで、モデル自体は変わりません。入力画像は正しく2D平面のまま維持されます。
ピクセル: 0 → 1ReLU活性化符号付き出力スコア
ニューロンを選択して、入力される接続を確認します。全25,760本の接続が計算に使用されています。
問いから始めよう

このネットワークは、もう手書き文字を読めるでしょうか?

ネットワークは数字の知識ではなく、ランダムな重みから始まります。数字を描くかサンプルを選択して、予測の背後にある数値を追ってみましょう。

推論は重みを読み取るだけです。重みが変化するのは明示的な学習操作を行ったときのみです。
間違え、重みを変え、もう一度試す。

学習とは、測定可能な変化です。

0完了エポック数
0処理済みサンプル数
0SGD 更新回数
—直近のミニバッチ平均損失
—検証精度
交差エントロピー損失低いほど良好
ラベル付きサンプルに対する精度高いほど良好
トレーニング検証 · 各プロット点は固定チェックポイントにおいて指定された分割全体を評価します。
各チャートの点とそのサンプル数を確認

各行は、1つの固定チェックポイントにおいて指定されたサブセット全体を評価します。損失はそれらのサンプルにおける算術平均です。精度は 正解数 / n です。トレーニングデータ量を変更すると、下に示されているトレーニング曲線のサンプル数が変化します。検証では常に同じホールドアウトセットが使用されます。

実験してみよう: 学習ステップを大きくすると学習は速くなるか?

リセットして η = 0.07 でトレーニングし、検証曲線を調べます。同一の初期チェックポイントにリセットし、η = 2.0 で繰り返します。測定結果を比較してください。必ずしも改善するとは限りません。記憶(過学習)を調べるには、トレーニングサンプル数を減らし、トレーニング性能と検証性能を比較します。テスト分割は最終評価用に残しておいてください。

DIGIT / LAB/ピクセル → 予測 → 誤り → 学習。実際のデータ。実際の勾配。すべてブラウザ内で完結。
最初の実験

学習させて、テストする。

数字を描くか、ラベル付きサンプルをクリックしてください。ネットワークの初期状態はランダムな重みであるため、一見もっともらしい予測でも間違っている可能性があります。

1. 1つの予測を追跡する

次を使用:予測のステップ実行。784 個のピクセル値が 32 個の活性化になり、次に 16 個、そして 10 個のスコアと確率になる様子を確認できます。球体を選択するか、レイヤー/インデックスのコントロールを使用して、入力されるすべての項を詳細に確認できます。

2. 1回のトレーニングステップを追跡する

トレーニングサンプルを選択するか、描いた数字を認識させて意図した数字を指定します。次を使用:このサンプルを学習させるそして損失、出力勾配、隠れ層の勾配、提案された更新へと進めます。SGD 更新を適用のみが重みを変更します。

3. より多くの手書き文字でトレーニングする

次を使用:実際のトレーニングを開始。ミニバッチは、複数のラベル付きサンプルからの勾配を結合します。バッチ境界で一時停止して、不変のスナップショットを確認できます。「更新」インスペクターには、表示されているサンプルの勾配ではなく、実際のバッチ平均勾配が表示されます。

4. 新しいデータをテストする

テスト分割で評価し、混同行列や誤判定を確認してください。その後、手書きの描画を試してみましょう。キャンバスでの手書きは、この小規模な訓練データセットと大幅に異なる場合があり、高い確率が出ても誤っていることがあります。

データとプライバシー

同梱されているデータは MNIST ではなく UCI Optical Digits です。実際の 8×8 サンプル 1,797 件を 28×28 の入力プレーンに正規化したものです。オプションの MNIST インポーターは、当ミュージアムが検証した CVDF コピーから公式の IDX アーカイブをダウンロードします。描画や計算処理はすべてこのブラウザ内で完結します。タブを閉じるかリロードすると実験室はリセットされます。重みや測定値を保持するにはエクスポートしてください。

カメラとアクセシビリティ

ドラッグで回転、Shift+ドラッグまたは右ドラッグで平行移動、スクロールまたはピンチでズーム。シーンにフォーカスして矢印キー、+/−、Home キーを使用できます。すべてのニューロンは 3D ビューなしでも選択可能です。解説の再生は一時停止でき、視覚効果抑制(reduced-motion)の設定にも対応しています。