PReLU 함수 계산기 & 그래프
PReLU 함수 계산기 & 그래프
PReLU(Parametric ReLU)는 Leaky ReLU의 확장 버전으로,
음수 구간의 기울기 α를 사용자가 직접 설정할 수 있는 활성화 함수입니다.
PReLU 함수란?
수식: PReLU(x) = max(αx, x)
- α는 학습되거나 사용자가 설정할 수 있습니다.
- 음수도 일정 기울기로 통과시켜 "죽은 뉴런" 문제를 방지합니다.
PReLU(Parametric ReLU)는 Leaky ReLU의 확장 버전으로,
음수 구간의 기울기 α를 사용자가 직접 설정할 수 있는 활성화 함수입니다.
수식: PReLU(x) = max(αx, x)
- α는 학습되거나 사용자가 설정할 수 있습니다.
- 음수도 일정 기울기로 통과시켜 "죽은 뉴런" 문제를 방지합니다.
댓글 없음:
댓글 쓰기