반응형

1. 문제

hypersurface를 따라 gradient descent의 step 크기를 결정하는 데 도움이되는 hyperparameter는 무엇입니까?

* gradient descent : 경사 하강법

 

2. 풀이

- 경사하강법은 Learning Rate에 의하여 hypersurface에 따라 경사를 하강한다.

- Learning Rate가 작을 경우에는 학습 속도가 현저하게 줄어든다.

- Learning Rate가 클 경우에는 하강하는 속도가 너무 빨라서 발산적인 학습을 한다.

 

3. 정답

- Learning rate

반응형
  • 네이버 블러그 공유하기
  • 네이버 밴드에 공유하기
  • 페이스북 공유하기
  • 카카오스토리 공유하기