숫자 인식을 학습하는 실제 완전연결 신경망입니다. 모든 구가 뉴런이고, 모든 선이 가중치입니다. 구를 클릭하면 정확한 합산을 볼 수 있습니다. 선이 밝은 것은 상위 활성화 × 해당 가중치가 크기 때문입니다.
∇-check 확인 중…
에포크
0
학습된 샘플
0
훈련 손실
—
테스트 정확도
—
매개변수
—
상태
대기 중
순방향 · 활성화 신호
흥분성 (+ 가중치)
억제성 (− 가중치)
역방향 · 오류 기울기
기울기 펄스 →
선 = 모델 (가중치)
구 = 활성화값 (입력별)
드래그 회전 · 스크롤 줌 · 구 클릭 열기
훈련 중: 알려진 것 vs 학습된 것
INPUT값 알려짐 — 입력하는 픽셀
HIDDEN 1가중치 알 수 없음 — 의미는 자가 학습 · 목표 없음
HIDDEN 2가중치 알 수 없음 — 의미는 자가 학습 · 목표 없음
OUTPUT의미 + 목표 알려짐 · 가중치 알 수 없음
모든 선은 가중치 = 알 수 없음; 훈련이 — 개 전체를 풉니다. 우리는 레이어, 크기, 활성화 & 손실을 설계하고; 훈련된 가중치를 얻습니다. 은닉층은 정답 키가 없습니다 — 출력에서 역방향으로 전달된 오류만 받습니다.
뉴런 내부 · 정확한 합산
— 하나 선택 —선이 왜 밝은가? · 메커니즘
각 선은 하나의 숫자를 운반합니다: 상위 뉴런의 활성화값과 이 선의 가중치의 곱(ai · wij). 그 곱이 클 때 선이 밝아집니다 — 소스 뉴런이 강하게 활성화되었거나 가중치가 크거나 둘 다입니다. 따뜻한 색 = 목표를 위로 밀기, 차가운 색 = 아래로 당기기. 뉴런을 열고 막대에 마우스를 올리면 정확한 선이 켜집니다.
감독 · 주어진 것
탐색 중이미지 항상 알려짐
답: —
신경망의 예측: — —
손실: — (얼마나 틀렸는지)
수정이 역방향으로 전달됨
각 훈련 이미지는 정확한 답과 함께 옵니다; 신경망은 그것을 향해 가중치를 조정합니다. 탐색 / 테스트 시에는 답이 숨겨집니다 — 신경망이 혼자 답을 내야 합니다.
출력 · 10개의 답 뉴런 (softmax)
마지막 레이어의 10개 뉴런이 경쟁합니다; softmax가 점수를 합이 1이 되는 확률로 변환합니다.
탐색 & 그리기 · 숫자 입력
깨끗한 숫자를 보내거나 하나를 그리세요 (16×16이 신경망의 실제 입력 크기). 전체 그래프가 즉시 다시 활성화됩니다.