오차역전파법 원리 이해하기1

딥러닝에서 많이 사용하는 오차역전파법의 원리에 대해서 이해해본다

딥러닝에서 ㅠㅠ 수학은 거의 필수다 아니 딥러닝 = 수학 이다…
처음에는 고등학교, 대학교 수학을 복습하면서 간단히 정리하고 있었는데, 재미있어서(?) 블로그에 올려본다

첫번째로 재미있는(?) 자연상수 e 에 대해서 알아보자

자연상수 e

수학자 베르누이가 복리 계산을 정리하면서 자연상수 e 를 정의 하였다고 한다

자연상수 e 를 아느냐 모르느냐는 이과냐 문과냐 (?) 를 구분할 정도로 중요한 개념이다!

밑에 추가될 정리들을 위해서 e 에 정의를 t 로 치환하여 따로 기억해두자

자연로그의 극한

e 의 미분을 증명하기 위해서 자연로그의 극한 1, 2 를 정리해보자

자연로그 극한 1

자연로그 극한 2

자연상수 e 의 미분

자연상수 e 는 참 특이한 무리수 이다
미분을 해도 자기 자신이기 때문

정리

차근 차근 정의해가면서 공식을 정리하는 것이 프로그래밍의 그것과 매우 닮아있다… ㅎ

e 에 대해 잘 알면 오차역전파법의 원리에 대해 이해하기 수월해진다!