Un vrai réseau entièrement connecté qui apprend à lire des chiffres. Chaque sphère est un neurone, chaque ligne est un poids. Clique sur une sphère pour l'ouvrir et voir la somme exacte ; une ligne est lumineuse parce que l'activation amont × son poids est grande.

∇-check en attente…

époque

échantillons vus

perte d'entraînement

—

précision test

—

paramètres

—

statut

en attente

vitesse

taux η

lot

avant · signal d'activation

excitateur (+ poids)

inhibiteur (− poids)

arrière · gradient d'erreur

impulsion de gradient →

lignes = le modèle (poids)

sphères = activations (par entrée)

afficher les connexions

glisser orbiter · défiler zoomer · cliquer une sphère ouvrir

Pendant l'entraînement : connu vs appris

INPUTvaleurs CONNUES — les pixels que l'on fournit

HIDDEN 1poids INCONNUS — sens appris seul · pas de cible

HIDDEN 2poids INCONNUS — sens appris seul · pas de cible

OUTPUTsens + cible CONNUS · poids INCONNUS

Chaque connexion est un poids = INCONNU ; l'entraînement résout les — en tout. On conçoit les couches, tailles, activations & perte ; on obtient les poids entraînés. Les couches cachées n'ont pas de corrigé — seulement le blâme renvoyé depuis la sortie.

À l'intérieur du neurone · la somme exacte

— choisir —

Pourquoi une ligne est-elle lumineuse ? · le mécanisme

Chaque connexion porte un nombre : l'activation du neurone amont multipliée par le poids de cette connexion (a_i · w_ij). Une connexion est lumineuse quand ce produit est grand — parce que le neurone source s'active fortement, ou le poids est grand, ou les deux. Chaud = pousse la cible vers le haut, froid = tire vers le bas. Ouvre un neurone et survole ses barres pour éclairer la connexion exacte.

Supervision · ce qui est donné

sondage

l'image toujours connue

réponse : —

prédiction du réseau : — —

perte : — (à quel point il se trompe)

correction envoyée en arrière

Chaque image d'entraînement arrive accompagnée de sa bonne réponse ; le réseau ajuste ses poids vers elle. Au sondage / test, la réponse est cachée — le réseau doit la produire seul.

Sortie · les 10 neurones de réponse (softmax)

Les 10 neurones de la dernière couche sont en compétition ; softmax transforme leurs scores en probabilités qui somment à 1.

Sonder & dessiner · entrer un chiffre

Envoie un chiffre propre ou dessines-en un (16×16 est la vraie taille d'entrée du réseau). Tout le graphe se réactive instantanément.

À propos de Neuron Lab

Un réseau de neurones n'est rien d'autre que des chiffres câblés ensemble — et cette exposition les montre tous. Chaque sphère est un neurone, chaque ligne un poids, disposés comme le vrai réseau qu'ils constituent : 256 pixels d'entrée, deux couches cachées et dix neurones de sortie pour les chiffres 0–9. Une ligne brille proportionnellement au signal qu'elle transporte — l'activation du neurone en amont multipliée par le poids de ce fil — ainsi vous pouvez regarder un chiffre s'illuminer à travers le graphe. Cliquez sur n'importe quel neurone pour l'ouvrir et lire la somme pondérée exacte derrière son activation.

Appuyez sur Entraîner et le réseau s'enseigne lui-même. Chaque étape est le rythme en quatre temps de tout l'apprentissage profond : une passe avant fait une prédiction, la perte mesure à quel point elle est fausse, la rétropropagation envoie le gradient d'erreur à travers chaque fil, et chaque poids s'ajuste légèrement dans la direction qui réduit la perte. Lancez-le en direct, ou avancez pas à pas et regardez l'impulsion de gradient voyager Sortie → Entrée. Le badge ∇-vérifié prouve que la rétropropagation est exacte — ses gradients analytiques correspondent aux différences finies à neuf décimales près.

L'astuce qui rend cela possible — propager l'erreur en arrière à travers un réseau multicouche — a été popularisée en 1986 et reste le moteur de chaque modèle entraîné aujourd'hui, des reconnaisseurs d'images aux grands modèles de langage. Les mathématiques ici sont le vrai article, juste réduites pour que chaque fil reste visible : des chiffres 16×16 au lieu de vraies photographies MNIST, et un réseau entièrement connecté plutôt que le type convolutif qui lit la vraie écriture manuscrite mieux. C'est la même arithmétique — multiplier, additionner, seuil — que vous pouvez câbler porte par porte dans le Logic Lab de DigiSim, à l'échelle jusqu'à l'apprentissage.

Caractéristiques

Architecture: PMC entièrement connecté — 256 → 16 → 12 → 10, ReLU + softmax
Entraînement: Rétropropagation + SGD à momentum, ∇-vérifié numériquement
Paramètres: 4 446 appris — 4 408 poids + 38 biais
Simulé: Passe avant en direct, signal a·w par fil, flux de gradient

Plus dans Apprentissage automatique

Glisser pour orbiter · cliquer sur un neurone pour l'ouvrir · défilement pour zoomer

Neuron Lab

À l'intérieur du neurone · la somme exacte

Pourquoi une ligne est-elle lumineuse ? · le mécanisme

Comment fonctionne la reconnaissance

Supervision · ce qui est donné

Reconnaissance · le verdict

Sortie · les 10 neurones de réponse (softmax)

Sonder & dessiner · entrer un chiffre

À l'intérieur du neurone · la somme exacte

Pourquoi une ligne est-elle lumineuse ? · le mécanisme

Comment fonctionne la reconnaissance

Supervision · ce qui est donné

Reconnaissance · le verdict

Sortie · les 10 neurones de réponse (softmax)

Sonder & dessiner · entrer un chiffre

Cookie preferences