Leaky ReLU 함수 계산기 & 그래프

Leaky ReLU(Leaky Rectified Linear Unit) 함수는 ReLU 함수의 변형으로,
입력값이 0보다 작을 때에도 작은 기울기를 갖도록 한 활성화 함수입니다.

Leaky ReLU 함수란?

수식: LeakyReLU(x) = max(αx, x), 일반적으로 α = 0.01
- 음수도 아주 작게 통과시켜서 "죽은 뉴런" 문제를 완화합니다.
- α는 보통 0.01 또는 0.02로 설정됩니다.