[파이썬] lightgbm에서의 군집 분석

07 Sep 2023

lightgbm

LightGBM은 매우 강력하고 효율적인 그래디언트 부스팅 알고리즘입니다. 이 알고리즘은 대규모 데이터셋에 대해 빠른 속도와 높은 정확도를 제공합니다. 하지만 LightGBM은 주로 분류와 회귀 문제에 사용됩니다. 하지만 우리는 LightGBM을 군집 분석에도 활용할 수 있습니다.

군집 분석은 데이터를 여러 그룹으로 묶는 작업입니다. 비슷한 특성을 가진 데이터들끼리 그룹을 형성하고, 이를 통해 데이터의 구조나 패턴을 파악할 수 있습니다. 주요한 군집 분석 알고리즘에는 K-Means, DBSCAN, Hierarchical Clustering 등이 있습니다. 하지만 이번 예제에서는 LightGBM을 사용하여 군집 분석을 수행해보겠습니다.

데이터 불러오기

많은 군집 분석 문제처럼 우리는 레이블이 없는 데이터를 사용할 것입니다. 다음과 같이 필요한 라이브러리를 불러온 후, 예제 데이터셋을 불러오겠습니다.

import lightgbm as lgb
import pandas as pd

# 데이터 불러오기
data = pd.read_csv('data.csv')

데이터 전처리

LightGBM은 범주형 데이터를 처리하기 위해 카테고리 타입을 사용할 수 있습니다. 따라서 우리는 데이터에서 범주형 특성을 찾아서 카테고리 타입으로 변환할 필요가 있습니다. 또한, 결측치를 처리하거나 표준화 등의 전처리 작업이 필요할 수 있습니다.

# 범주형 특성 처리
categorical_features = ['category_1', 'category_2']
for feature in categorical_features:
    data[feature] = data[feature].astype('category')

모델 학습

이제 LightGBM 모델을 학습시킬 준비가 되었습니다. LightGBM은 매우 적은 메모리를 사용해도 효과적인 모델 학습을 수행할 수 있습니다. 다음과 같이 모델 인스턴스를 생성하고, fit 메서드를 사용하여 모델을 학습시킬 수 있습니다.

# 특성과 타깃 변수 분리
X = data.drop('target', axis=1)
y = data['target']

# 모델 인스턴스 생성
model = lgb.LGBMRegressor()

# 모델 학습
model.fit(X, y)

군집 분석 수행

모델이 학습되었다면, LightGBM 모델의 예측 결과에 군집 분석을 적용할 수 있습니다. 예를 들어, 모델의 잔차(residuals)를 사용하여 군집을 형성할 수 있습니다.

# 모델 잔차 구하기
residuals = y - model.predict(X)

# 군집 수행
cluster_labels = perform_clustering(residuals)

위의 코드에서 perform_clustering 함수는 LightGBM 잔차를 입력으로 받아 군집 분석을 수행하는 함수입니다. 이 함수는 K-Means, DBSCAN, Hierarchical Clustering 등 다양한 군집 분석 알고리즘을 사용할 수 있습니다.

군집 결과 시각화

마지막으로, 군집 분석 결과를 시각화하여 확인해보겠습니다. 예를 들어, PCA를 사용하여 데이터를 2차원으로 축소하고, 군집에 따라 다른 색으로 표시할 수 있습니다.

import matplotlib.pyplot as plt
from sklearn.decomposition import PCA

# PCA를 사용한 2차원 시각화
pca = PCA(n_components=2)
reduced_data = pca.fit_transform(X)

# 군집 결과 시각화
plt.scatter(reduced_data[:, 0], reduced_data[:, 1], c=cluster_labels)
plt.title('Clustering Analysis')
plt.xlabel('PCA Component 1')
plt.ylabel('PCA Component 2')
plt.show()

위의 코드는 PCA를 사용하여 데이터를 2차원으로 축소한 후, scatter 함수를 사용하여 군집 결과를 시각화합니다. 군집별로 다른 색상을 사용하여 데이터 포인트를 표시합니다.

결론

이제 LightGBM에서 군집 분석을 수행하는 방법을 알게 되었습니다. LightGBM은 그래디언트 부스팅 알고리즘의 특성을 활용하여 뛰어난 성능과 효율성을 제공하므로, 군집 분석에도 유용하게 활용할 수 있습니다. 다양한 군집 분석 알고리즘과 함께 LightGBM을 활용하여 데이터의 구조와 패턴을 파악해보세요.