[파이썬][scikit-learn] scikit-learn에서 LDA (선형 판별 분석)

05 Sep 2023

scikit learn

선형 판별 분석 (Linear Discriminant Analysis, LDA)은 차원 축소와 분류에 사용되는 효과적인 통계 기법 중 하나입니다. scikit-learn 라이브러리에는 LDA를 구현한 훌륭한 도구들이 포함되어 있으며, 이를 사용하여 데이터를 효과적으로 분류 및 시각화할 수 있습니다.

이 포스트에서는 scikit-learn의 LDA를 설치하고 사용하는 방법을 알아보겠습니다.

LDA의 개요

선형 판별 분석은 주어진 데이터의 클래스 레이블을 최대한으로 분리하는 새로운 특성 공간을 찾는 방법입니다. 주로 분류 문제에서 사용되며, 각 클래스의 데이터 포인트가 최대한 멀리 떨어지도록 차원을 축소하는 것이 목표입니다.

LDA의 주요 단계는 다음과 같습니다:

데이터셋의 클래스 간 분산과 내부 분산 계산
클래스 간 분산과 내부 분산의 비율 계산
비율을 기준으로 선형 판별 벡터 계산
데이터셋을 새로운 차원에 투영

scikit-learn에서 LDA 설치하기

scikit-learn은 파이썬의 대표적인 머신러닝 라이브러리 중 하나입니다. LDA를 사용하기 위해서는 scikit-learn을 설치해야 합니다. 아래 명령어를 사용하여 scikit-learn을 설치할 수 있습니다:

pip install scikit-learn

LDA 사용하기

LDA를 사용하여 데이터를 분류하고 시각화하는 예제 코드를 살펴보겠습니다.

# 필요한 라이브러리 임포트
from sklearn.discriminant_analysis import LinearDiscriminantAnalysis
import numpy as np
import matplotlib.pyplot as plt

# 예제 데이터 생성
X1 = np.random.randn(100, 2) + np.array([0, 0])
X2 = np.random.randn(100, 2) + np.array([2, 2])
X = np.vstack((X1, X2))
y = np.hstack((np.zeros(100), np.ones(100)))

# LDA 모델 초기화 및 학습
lda = LinearDiscriminantAnalysis(n_components=1)
lda.fit(X, y)

# 데이터를 새로운 차원으로 변환
X_lda = lda.transform(X)

# 클래스별로 데이터 시각화
plt.scatter(X_lda[y==0], np.zeros(100), color='red', alpha=0.5, label='Class 0')
plt.scatter(X_lda[y==1], np.zeros(100), color='blue', alpha=0.5, label='Class 1')
plt.legend()
plt.xlabel('LDA Component')
plt.ylabel('')
plt.show()

위 코드에서는 우선 필요한 라이브러리들을 임포트한 후 예제 데이터를 생성합니다. 두 개의 클래스가 있는 데이터셋을 생성하고, LDA 모델을 초기화한 뒤 데이터를 학습시킵니다. 학습이 완료된 후 transform 메서드를 사용하여 데이터를 새로운 차원으로 변환합니다.

마지막으로, 변환된 데이터를 시각화하여 각 클래스의 분포를 확인합니다. 클래스별로 다른 색상을 사용하여 데이터를 표시하고, X축은 LDA의 주성분을 나타냅니다.

이처럼 scikit-learn을 사용하여 LDA를 쉽게 사용할 수 있으며, 데이터의 특성과 클래스를 최대한 분리하는 새로운 차원을 찾는 데 효과적입니다.

이러한 선형 판별 분석은 다양한 분야에서 사용될 수 있으며, 데이터의 차원을 줄이고 분류 성능을 향상시키는데 큰 도움을 줄 수 있습니다. scikit-learn을 사용하여 LDA를 구현하고 데이터를 분류 및 시각화하는 방법에 대해 알아보았습니다. 적용할 데이터에 따라 다양한 방식으로 활용할 수 있으니, 관심 있는 분야에서 적용해보시기 바랍니다.