딥러닝 수업- Drop out regularization

Dropout

- 모델의 과적합 (Overfitting)을 방지하기 위해 고안해낸 방법론

- 인공신경망에서 drop out을 0.5로 지정해놓으면 랜덤으로 전체 노드의 50%를 지우고 진행하는 방식

 

Drop out Regularization 예시

 

drop out <-> keep prop

- 두 단어는 상반되는 단어로 drop out은 노드의 몇 %를 지울지 정하는 하이퍼 파라미터지만 반면, keep prob은 노드의 몇 %를 유지할 지 정하는 하이퍼 파라미터