Das ist ein neuronales Netz mit abgenommenem Deckel. Es ist das kleinste Netz, das noch etwas lernen kann — sechzehn Eingaben, zwei verdeckte Neuronen, zwei Ausgaben — und es wird bewusst so klein gehalten: so klein, dass jede einzelne Multiplikation, jede laufende Summe, jeder Gradient eine Zahl ist, die Sie auf dem Bildschirm lesen können. Wo die meisten Visualisierungen Ihnen die Form des Lernens zeigen, zeigt Ihnen diese die Arithmetik.
Schritt drücken und die Timeline geht eine Operation nach der anderen. Eine Vier-mal-Vier-Karte entfaltet sich in sechzehn Eingabeknoten; leuchtende Pakete tragen jede Eingabe entlang eines Drahtes und darüber die genaue Multiplikation — Eingabe mal Gewicht ergibt Produkt. Jedes verdeckte Neuron talliert seine sechzehn Produkte wie einen Kassenbon, zieht die Linie und schreibt das Gesamt Z; ReLU lässt es entweder durch oder klemmt es auf null und das Neuron dimmt. Die zwei Ausgaben werden zu Wahrscheinlichkeiten, und der Fehler liegt bloß als Subtraktion: Vorhersage minus Wahrheit. Dann kehrt die Beleuchtung um, rote Pakete tragen diesen Fehler rückwärts, die Kettenregel teilt ihn über die eingehenden Drähte auf, und jedes Gewicht aktualisiert sich offen: altes Gewicht plus Gradient ergibt neues Gewicht, und der Draht verdickt oder verdünnt sich physisch entsprechend.
Stattdessen Trainieren ausführen und dieselbe Engine sprintet über das gesamte Deck, und Sie beobachten, wie sich die zwei verdeckten Neuronen spezialisieren — ihre rezeptiven Felder schärfen sich zu den Merkmalen, die eine 1 von einer 0 trennen. Die Mathematik hier ist das echte Ding, gradienten-geprüft gegen finite Differenzen. Wenn Sie bereit sind, dieselbe Arithmetik im vollen Maßstab zu sehen — Tausende von Gewichten, die echte Ziffern lesen — treten Sie nebenan ins Neuron Lab; dieser Raum ist die Nahaufnahme, von der Sie abschließen.
Technische Daten
- Topologie
- 16 → 2 → 2, ReLU verdeckt, Softmax Ausgang
- Training
- Echte Kreuzentropie-Backprop, numerisch ∇-geprüft
- Warum zwei Neuronen
- Klein genug, damit jeder Draht und jede Multiplikation sichtbar bleibt
- Simuliert
- Vorwärts-Trace, Gradientenfluss, live Gewichtsaktualisierungen
Mehr aus Maschinelles Lernen
