회귀

회귀

• 임의의 어떤 숫자를 예측하는 문제
• 두 변수 사이의 상관관계를 분석하는 방법

K-최근접 이웃 회귀

K-최근접 이웃 회귀는 근처에 있는 이웃의 값들의 평균을 구해서, 그 평균값을 가지는 것이다.

과대적합과 과소적합

과대적합(Overfitting)

• 훈련집합에 대해서만 거의 완벽하게 근사
• 학습과정에서 잡음까지 수용

과소적합(Underfitting)

• 모델의 용량이 작아 오차가 클 수 밖에 없는 현상
• 모델이 너무 단순하여 훈련 세트에 적절히 훈현되지 않는 상태

선형회귀

직선을 학습하는 알고리즘이다.

이처럼 직선 함수를 만들어서 새로운 데이터가 들어왔을 때, 이웃하고 멀리 떨어진 데이터의 값을 선형 함수를 이용해서 값을 구할 수 있다.

다항 회귀 (polynominal)

곡선을 표현해서, 좀더 정확한 근사값을 구할 수 있다.