딥러닝 기초 수학

1차 함수, 기울기, y절편

$y=ax+b (a\ne0)$

$x$가 일차, $a$는 기울기, $b$는 절편

$x$값이 증가할 때 $y$값의 변화, 그래프 선의 기울기 $a$, 그래프 선이 $y$축과 만나는 지점 $y$절편 $b$

 

2차 함수, 최소값

$y=ax ^2 (a\ne0)$

$a > 0$ 이면 아래로 볼록한 포물선

포물선 맨 아래 위치한 지점 최소값

 

미분, 순간 변화율, 기울기

$y=x ^2$

$x$ 가 0에 가까울 만큼 아주 미세하게 변화할 때 $y$ 값도 매우 미세하게 변화

방향만 드러내는 정도의 순간적인 변화, 순간 변화율

순간 변화율은 방향성을 지니고 있고 이 방향을 따라 직선을 그리면 그래프와 맞닿는 접선, 기울기

순간 변화율은 곧 기울기

미분한다는 순간 변화율을 구한다

어느 순간에 어떤 변화가 일어나고 있는지 숫자로 나타낸 것, 미분 계수

미분 계수는 곧 그래프의 기울기

기울기가 0일 때 $x$축과 평한한 직선으로 그어질 때 최소값인 지점

 

함수 $f(x)$를 미분하라

$ f'(x) = $ $ \displaystyle \lim_{\Delta x \to 0} $ $ \frac{f(a+ \Delta x)-f(a)}{\Delta x} $

1. 함수 $f(x)$ 를 $x$로 미분하는 것은

2. $x$의 변화량이 0에 가까울만큼 작을 때

3. $y$의 변화량을

4. $x$의 변화량으로 나누어 순간 기울기를 구하라는 뜻

 

미분의 성질

1. $f(x)=a$에서 $a$가 상수일 때 미분 값은 0이다

2. $f(x)=x$일때의 미분 값은 1이다

3. $f(x)=ax$에서 $a$가 상수이면 미분 값은 $a$이다

4. $f(x)=x^a$에서 $a$가 자연수이면 미분 값은 $ax^{a-1}$이 된다

 

딥러닝은 일차 함수 $a$, $b$ 값을 구하는 것

$a$와 $b$ 값은 이차함 수 포물선을 최소값을 구하는 것

이 최소값을 미분으로 구함

 

편미분

여러가지 변수가 식 안에 있을 때 우리가 원하는 한 가지 변수만 미분하고 그 외는 모두 상수로 취급

$ f(x,y) = x^2 + yx + a $ ($a$는 상수)

함수 $f$를 $x$에 관해 편미분

$ \frac{\partial f}{\partial x} $

 

$ f(x,y)=x^2+yx+a $ 일 때 $ \frac{\partial f}{\partial x} = 2x + y $

 

지수, 지수 함수

$y=a^x (a\ne1, a>0)$

밑의 값이 1이면 함수가 아님, 0보다 작으면 허수라 안됨

밑은 값은 $a>1$ 이거나 $0<a<1$ 여야 함

 

시그모이드 함수

시그모이드 함수는 지수함수에서 밑의 값이 자연 상수 $e$인 함수

자연 상수 $e$는 자연 로그의 밑, 오일러의 수

파이 $\pi$ 처럼 수학에서 중요하게 사용하는 무리수, 값은 대략 2.718281828...

자연 상수 $e$가 지수 함수에 포함되어 분모에 들어가면 시그모이드 함수가 됨

$ f(x) = \frac{1}{1+e^{-x}} $

$x$가 큰 값을 가지면 $f(x)$는 1에 가까워지고

$x$가 작은 값을 가지면 $f(x)$는 0에 가까워짐

S자 형태로 그려지는 이 함수의 속성은 0 또는 1, 두개의 값 중 하나를 고를 때 유용하게 사용됨

 

로그, 로그 함수

$a^x=b$

$a$를 $x$만큼 거듭제곱 한 값이 $b$

$x$를 구하기 위해 사용하는 방법이 로그

$ \log_{a}{b} =x $

지수 함수와 로그 함수는 역함수 관계

역함수는 $x$와 $y$를 서로 바꾸어 가지는 함수