-32일차- 활성화함수

Activation function 모델의 표현력을 향상시켜주는 활성화 함수 f(x)=xw1​+b1​ 이러한 식이 있을 때 x2, x^5x5, sin(x)sin(x) 등으로 표현되는 데이터를 학습할 수가 없음 수학적으로 말하면 선형함수(직선)는 비선형함수(곡선)을 표현할 수 없음여기에서 딥러닝 모델의 parameter(w,b)들은 입력값 x와 선형관계 이므로 비선형 데이터를 표현하기 위해딥러닝 모델도 비선형성을 지니고 있어야 하는데 이떄 쓰이는 것이 활성화 함수 퍼셉트론 이미 잘짜인 머신이라 할 수 있는 동물의 학습 방법의 모방.동물의 신경세포와 유사하게 설계해 나온 것이 최초의 퍼셉트론 History of the Perceptron Threshold Step Sigmoid Piecewise Linear..