Hyperparameter
# Tag:
- Source/KU_ML2
Hyperparameter
model이 Learning 과정에서 정하는 parameter와 달리, 모델 설계자가 임의 혹은 직관에 따라 정하는 parameter.
hyperparameter를 어떻게 정하는지에 따라 그 성능이 상이하게 변하기도 한다.
example
- Learning rate: Gradient Descent
- Momentum: Momentum Gradient Descent
- Mini-batch Size: SGD
- weight Decay:
- Drop out:
- Number of epochs: Early Stop