지도학습-회귀

회귀 개념

입력변수와 출력변수의 사이의 매핑관계를 찾는 것

ex) 시계열 예측 -> 주가 예측, 환율 예측 등

선형회귀, 비선형회귀, 로지스틱 회귀, SVM, 신경망(MLP, RBF, CNN, LSTM)

 

분류, 회귀 시스템 차이점 구분

-출력의 형태가 무엇이냐로 구분된다, 분류는 클래스 레이블 숫자로 치면 0~9 이산적 값

회귀는 출력 값이 연속적인 값을 갖는 실수다

 

보간법과 회귀-데이터를 가장 잘 표현하는 직선/곡선을 찾는 경우

보간곡선 -> 제곱오차가 0이지만 매우 복잡

회귀 직선 -> 작은 오차, 전체적인 데이터의 경향을 보여주는 입출력의 관계 표현에 적합

 

선형(linear)회귀

직선의 방정식을 찾는것 y=w1x + w0 + e

w1 - 기울기, w0 - 절편, e - 오차 또는 잔차(residual)

좋은 선형회귀모델? 모든 데이터에 대해서 잔차가 가능한 작아야 함

 

선형회귀의 한계 x와 y의 관계를 선형 매핑으로 표현할 수 없는 경우

 

선형회귀의 확장

 

로지스틱 회귀 = 분류문제의 적용할수 있도록 회귀를 확장 시킨것

범주형 데이터의 회귀

-선형회귀분석의 종속변수(출력)를 범주형으로 확장 한것

-분류문제에 적용 가능

-입력값이 각 클래스에 혹하는 확률값을 회귀분석으로 예측