ML 기초수학 Ch02

1. 다항함수(Polynomial Function)

다항함수(polynomial function)는 다항식으로 나타낼 수 있는 함수이다. 최고차항의 차수에 따라 상수함수, 일차함수, 이차함수, 삼차함수, 사차함수… 등으로 분류될 수 있다. 상수도 다항식이기 때문에 다항함수는 다항식과 다항식의 몫으로 정의되는 유리함수에 속한다.

단항식으로 구성되어 있고 그 식의 계수가 1인 다항함수는 멱함수(冪函數)라고도 하는데, 멱함수는 다항함수가 아닌 유리함수, 무리함수도 포함하기 때문에 완전 대응되지는 않는다.

# 사용할 패키지 불러오기 (매트플롯립, 넘파이)
import numpy as np
import matplotlib.pyplot as plt
import matplotlib as mpl

# 그래프에서 사용할 테마 설정 (plt.style.available을 사용하여 사용가능한 테마 확인가능)
mpl.style.use('bmh')
mpl.style.use('seaborn-whitegrid')

# 크기 (10,7)인 그림 생성
fig = plt.figure(figsize=(10,7))
# 그림에 좌표축 생성
ax = fig.add_subplot(1, 1, 1)
# 좌표축에 표시되는 좌표값 숫자 크기 지정
ax.xaxis.set_tick_params(labelsize=18)
ax.yaxis.set_tick_params(labelsize=18)
# 좌표 축 이름 크기 지정
plt.xlabel('$x$', fontsize=25)
plt.ylabel('$y$', fontsize=25)

# 그릴 정의역을 start(시작), stop(끝), num(등간격)순서로 생성
# -3 부터 2까지 10개의 숫자
x = np.linspace(-3, 2, 10)
y = 2*x+4
# 평면에 점을 연속적으로 찍어 그래프를 그리기 (k 옵션은 검은색을 지정)
ax.plot(x, y, 'k')

# 좌표축을 그리기 위해 미리 만들어놓은 arrowed_spines()함수 호출
arrowed_spines(fig, ax)

plt.show()

2. 지수함수(Exponential Function)

지수함수는 지수에 미지수 x가 있는 함수이다. 달리 멱함수(冪函數)라고 하기도 한다. 대략적으로 일반적인 다항식으로 표현할 수 없기 때문에 초월함수에 속한다. 지수함수는 지수 법칙을 실수 범위로 확장한 뒤에 배우게 되는데 실수에서의 지수 법칙을 만족하기 위해 밑 a>0을 전제로 깔고 간다. 따라서 아래 문단에서 특별한 설명이 없으면, a>0을 전제로 한다. 또한 지수함수에서 밑이 1인 경우에는 지수함수가 아닌 상수함수가 되기 때문에 지수함수에서 제외한다. 정규분포에서 등장하는 확률 밀도 함수가 일종의 지수함수이며, 삼각함수 또한 지수함수의 변형으로 볼 수도 있다.

1. 지수법칙(Exponential Law)

지수법칙_공식

2. 자연상수e(on Euler’s constant or nature number)

[참고] - [https://angeloyeo.github.io/2019/09/04/natural_number_e.html - 공돌이의 수학정리노트]

자연상수 e는 자연의 연속 성장을 표현하기 위해 고안된 상수라고 할 수 있다. 조금 더 구체적으로는 100%의 성장률을 가지고 1회 연속 성장할 때 얻게되는 성장량을 의미한다.

100% 성장률로 1회 연속 성장한다는 것의 의미

3. 로그함수(Log Function)

로그(log)는 지수 함수의 역함수이다. 어떤 수를 나타내기 위해 고정된 밑을 몇 번 곱하여야 하는지를 나타낸다고 볼 수 있다.

이른 17세기에 곱하기 및 나누기의 계산을 간편하게 해내기 위해 존 네이피어가 발명한 것으로 알려져 있다. 복잡한 단위의 계산을 간편하게 계산할 수 있다는 장점 때문에, 로그표 및 계산자 등의 발명품과 함께 세계적으로 여러 분야의 학자들에게 널리 퍼졌다.

지수에 대비된다는 의미에서 중국과 일본에서는 대수(對數)로 부르기도 하나, 대수(代數, algebra)와 헷갈리기 쉬우므로 로그라는 용어를 사용하는 것이 일반적이다.

4. 로지스틱 시그모이드 함수(Logistic Regresssion Sigmoid Function)

[참고] - [https://itstory1592.tistory.com/8 - [인공지능][개념] 로지스틱 회귀(Logistic Regression)는 무엇이며, 시그모이드(Sigmoid) 함수는 왜 사용하는 것일까?]

로지스틱 회귀 모델은 여러 조건을 부합하여, 결과를 0(사건이 발생하지 않음)과 1(사건이 발생함)로 출력하는 역할을 수행한다.

x가 0보다 크면 y는 0.5를 기준으로 긍정(사건이 발생) 결과가 나타나고, x가 0보다 작다면, y는 0.5를 기준으로 부정(사건이 발생하지 않는) 결과가 나타날 것이라는 것을 의미한다. 경우에 따라 y가 정확히 0.5일 때에는 긍정이라고 보는 경우도 있고, 부정으로 보는 경우도 있다.

단순히 선형회귀 모델을 사용하지 않고, 굳이 시그모이드 함수를 사용해야 하는 이유는 사건이 발생하고, 발생하지 않는 결과를 선형으로 표현하게 됐을 때 문제점이 발생하기 때문이다.

새로운 값의 추가가 기존 분류 모델에 큰 영향을 미치게 되는 문제점이 발생한다.

그래프를 직선으로 표현하는 것 대신, 완만한 S자형 곡선으로 나타낼 수 있다면 위와 같은 상황을 방지할 수 있기에 사용한ㄷ다. 기존의 선형회귀가 아닌 분류 문제에서 보다 유용하게 사용할 수 있도록 로지스틱 회귀모델에 시그모이드 함수를 적용하게 된 것이다.