회귀분석이란?

회귀분석이란 연속형 변수에 대해 독립변수에 대응하는 종속변수와 가장 비슷한 값을 출력하는 함수를 찾고 예측하는 과정입니다.

예를 들어, 방의 개수, 크기, 교통, 층수 등 여러 개의 독립변수에 따라 집값이라는 종속변수 간의 관계를 모델링하고 예측하는 것이라고 말할 수 있습니다.

단순 선형 회귀분석은 한 개의 독립 변수와 하나의 종속 변수의 선형 관계를 모델링하는 기법이고, 다중 선형 회귀분석은 여러 개의 독립 변수와 하나의 종속 변수의 선형 관계를 모델링하는 기법입니다. 머신러닝 회귀 예측은 주어진 피처(독립변수)와 결정 값(종속변수)에서 학습을 통해 최적의 회귀 계수를 찾아내는 것입니다.

목적

회귀분석은 변수 간의 인과관계가 있을 때, 독립변수가 변함에 따라 종속변수가 어떻게 변화하는지를 규명하는 통계기법입니다. 회귀분석은 종속변수에 대한 독립변수들의 상대적 중요도를 통한 예측이 가능하며, 일 방향성(독립변수 -> 종속변수)을 지니고 있어 상관관계와의 차이가 있습니다.

cf. 상관관계 : 두 변수 간의 연관된 정도를 나타내며, 쌍방향성(변수 <-> 변수)을 가지고 있습니다.

1. 독립변수와 종속변수의 관계를 파악할 수 있습니다. (인과관계)
2. 종속변수에 영향을 미치는 독립변수들을 파악할 수 있습니다.
3. 독립변수가 변화함에 따라 종속변수의 변화를 예측할 수 있습니다.