인터랙티브 딥러닝 최적화 시뮬레이터

🕹️ 하이퍼파라미터 설정

Learning Rate (학습률) 0.1

너무 크면 튕겨 나가고(Overshooting), 너무 작으면 학습이 지연됩니다.

Batch Size (배치 크기) 32

작을수록 노이즈(무작위성)가 심해지지만 local minimum 탈출에 유리합니다.

Epochs (총 에포크) 50

전체 데이터를 몇 번 반복해서 학습할지 결정합니다.

Optimizer (최적화 알고리즘)

Current Epoch

Current Loss

0.0000

Step / Progress

• Batch Size가 작으면: 한 번에 일부 데이터만 보고 방향을 틀기 때문에 Loss 곡선이 거칠고 요동칩니다(노이즈 발생). 하지만 연산 속도가 빠르고 좁은 골짜기(Local Minimum)를 탈출하기 쉽습니다.
• Learning Rate가 너무 크면: 최소점을 지나쳐버려 가중치가 수렴하지 못하고 위아래로 진동하거나 발산합니다.
• Adam 옵티마이저는: 과거의 기울기를 기억하고(Momentum), 가중치마다 학습률을 다르게 조절하여(AdaGrad) 가장 안정적인 경로로 수렴하도록 돕습니다.