선형 분류와 선형 회귀

선형 분류 vs 선형 회귀

선형 회귀는 연속 변수를 예측하는 데 사용되는 선형 모델
선형 분류는 범주형 변수를 분류하는 데 사용되는 선형 모델

---

대표적인  선형분류 알고리즘

로지스틱 회귀(Logistic Regression): 선형 회귀를 이용하여 이진 분류를 수행. 로지스틱 함수를 사용하여 확률을 계산하고, 이를 기반으로 클래스를 예측. 시그모이드 함수를 사용, 로그손실 함수 사용

서포트 벡터 머신(Support Vector Machines, SVM): 선형 분류 문제에서 가장 잘 알려진 알고리즘. 데이터를 고차원 공간으로 매핑하여 선형으로 분리할 수 있는 최적의 경계를 찾는다.

선형 판별 분석(Linear Discriminant Analysis, LDA): 주어진 클래스의 평균과 공분산을 기반으로 선형 결정 경계를 찾는 알고리즘. 클래스 간 분산이 최대화되고 클래스 내 분산이 최소화되도록 결정 경계를 결정.

퍼셉트론(Perceptron): 초기 머신 러닝 알고리즘 중 하나로, 선형 분류를 위한 이진 분류기. 오분류된 샘플에 대해 경사 하강법을 사용하여 가중치를 조정하여 학습.

 

선형 결정 경계

 선형 분류 모델에서 데이터를 나누는 직선 또는 초평면, 이 경계선은 데이터를 클래스별로 분리하는 역할을 하며, 분류 모델의 예측 결과를 결정하는 기준

 

결정 경계  분류 모델에서 클래스를 나누는 경계를 의미, 학습된 분류 모델의 파라미터와 특성의 조합에 따라 결정

---