Regression: Ordinary Regression VS Logistic Regression

1. 회귀 계수의 추정

  Ordinary Regression 은 MSE(least squares, 오차제곱합을 최소로)

  Logistic Regression은 likelihood function을 최대로

  잔차(residuals) 분포가 정규분포일때에는 계산값 같음 

 

2. 모델의 평가

  Ordinary Regression은 R-squared

  Logistic Regression은 Pseudo-R squared (ex. Cox & Snell's R-squared)

 

3. 독립변수와 종속변수의 관계 

선형 회귀분석이 말 그대로 독립변수와 종속변수 사이의 선형적 관계를 그래프로 나타낸 것이라면, 로지스틱 회귀분석은 선형이 아닌 "S" 곡선의 특성을 나타낸다.

​

log odds와 독립변수 사이의 선형성을 가정한다.