모던지
빅데이터분석기사 (빅분기) / 03 모델링

ReLU의 단점으로 알려진 현상은?

  1. 출력이 항상 1
  2. 기울기 폭발
  3. 음수 구간에서 기울기가 0이 되어 뉴런이 죽는 현상
  4. 미분이 불가능해 학습 불가
정답과 해설 보기

3. 음수 구간에서 기울기가 0이 되어 뉴런이 죽는 현상

죽은 ReLU 문제라고 부르며 리키 ReLU 등으로 완화합니다.

풀이 화면에서 풀기 강의 읽기

모던지가 직접 쓴 문항입니다. 시행기관과 관계가 없습니다.