Linear Regression

- 당신은 여자친구의 몸무게를 맞추기

- 키와 몸무게가 어느 정도 비례할 것이라는 가정

- 우선 당신의 친구들로부터 키와 몸무게의 정보를 다음과 같이 수집

	친구1	친구2	친구3	친구4	친구5
키	160	165	160	170	170
몸무게	50	55	60	45	50

 

여자친구의 키가 162라는 것을 감안했을 때는 위의 정보를 토대로 50kg 쯤 될 것이라고 예상할 수 있다. 하지만 당신은 추측에 만족하지 못한다. 위의 정보를 토대로 가장 근접한 여자친구의 몸무게를 예측하기 위해 다음과 같이 수학적인 모델을 이용하기로 했다.

* 직관적 설명

- 예외상황이 별로 없는 데이터의 경우 분류를 잘하며 자질의 갯수만큼의 곱셈, 그리고 덧셈만 하면 되기 때문에 여타 알고리즘보다 runtime도 빠르다

- 직관적으로는 현재 주어진 traning set에 대해 평균적으로 설명할 수 있는 선이 모델이 된다 즉, 모델을 배운다는 것은 선의 기울기, 그리고 y절편을 구한다는 것을 의미한다 

자질(w)을 키, 그리고 추측해야 하는 값(y)을 몸무게로 두었으며 이를 평균적으로 설명하는 선을 모델로 지정하였다. 여기에서 평균적이라는 말의 의미는 선을 그었을 때 각 instance에서 선까지의 평균 거리의 제곱의 합을 최소화한다는 것을 의미한다.