Colin's Blog
[핸즈온 머신러닝] 제 2장 머신러닝 프로젝트 처음부터 끝까지

머신러닝 프로젝트 처음부터 끝까지

예제 프로젝트이지만, 진행순서는 대략 다음과 같이 진행된다.

  1. 큰 그림을 본다.
  2. 데이터를 구한다.
  3. 통찰을 위해서 탐색하고 시각화한다.
  4. 머신러닝을 위해 데이터를 준비한다.
  5. 모델을 선택하고 훈련시킨다.
  6. 모델을 상세 조정한다.
  7. 솔루션을 제시한다.
  8. 시스템을 론칭하고, 모니터링, 유지보수를 실시한다.

공개 데이터셋

큰 그림보기

데이터 구하기

탐색과 시각화

분산도를 이용해서 지도화하는 법. Basemap를 이용해서 배경을 겹쳐보일 수는 있으나, 본 책에 제시된 이미지 파일을 어떻게 만들어서 맞춘것인지 알기 어려웠다.

ax = housing.plot(kind="scatter", x="longitude", y="latitude", alpha=0.4,
    s=housing["population"]/100, label="인구", figsize=(10,7),
    c="median_house_value", cmap=plt.get_cmap("jet"), colorbar=True,
    sharex=False)
ax.set(xlabel='경도', ylabel='위도')
plt.legend()

아래는 상관도 행렬을 만들고, 특정변수에 대해 상관도가 높은 변수를 추려서 보여주는 방법이다.

corr_mat = housing.corr()
corr_mat["median_house_value"].sort_values(ascending=False)

잘 알려진 상관행렬을 그래프로 나타내는 코드는 다음과 같다.

from pandas.plotting import scatter_matrix

attributes = ["median_house_value", "median_income", "total_rooms",
              "housing_median_age"]
scatter_matrix(housing[attributes], figsize=(12, 8))

머신러닝을 위한 데이터 준비

사이킷런의 설계철학

원문은 API design for machine learning software: experiences from the scikit-learn project에서 확인할 수 있다.

텍스트와 범주형 특성

범주형은 판다스의 factorize()함수를 이용하여 인덱스를 만들 수 있다.

범주형 자료를 인덱스로 바꾸고 나면, 수치형자료로 인식하여, 머신러닝 알고리즘이 가까이 있는 두 값(1번째와 2번째 범주)을 멀리 있는 두값(1번째와 10번째 범주)보다 더 비슷하다고 판단하기 때문에, 이러한 범주형 자료의 오독을 방지하기 위하여 원-핫 인코딩(one-hot encoding)를 활용한다.

사이킷런은 숫자로 된 범주형 값을 원-핫 벡터로 바꿔주는 OneHotEncoder 객체가 있다. 희소행렬을 돌려주는데, 값을 쉽게 출력해보고 싶으면, toarray() 메소드를 이용해서 출력해볼 수 있다.

범주형 자료를 인덱스로 바꾸고, 이를 다시 원-핫 인코딩하는 과정을 한번에 처리해주는 객체로 CategoricalEncoder가 있다. 사이킷런 0.19.0까지는 포함되지 않았다. 밀집행렬로 출력하려면, encoding="onehot-dense"를 매개변수로 지정하면 된다.

변환기 커스터마이징

일련의 변환과정을 기록하기 위하여, 새로운 객체를 만들 때는 fit(), transform(), fit_transform() 메서드를 구현하면 된다. 덕 타이핑을 지원하므로 상속관계가 크게 중요하진 않다. 하이퍼파라미터를 쉽게 지정할 수 있도록 BaseEsimator객체를 상속하고, TranformerMixin 클래스를 상속하여 fit_transform()를 따로 구현하지 않는다.

이렇게 자신의 변환기를 만들고, 하이퍼파라미터로 여러 조합을 조절할 수 있도록 작성해두면, 추후에 여러가지 테스트를 빠르게 해 볼 수 있다.

특성 스케일링

데이터의 스케일이 크게 다르면 모델이 잘 작동하지 않는다. 타깃값에 대한 스케일링은 일반적으로 불필요하다.

많은 쓰이는 방법은 min-max 스케일링과 표준화(standardization)이다.

min-max는 최소, 최대값을 0-1 범위로 치환하는 방법으로 사이킷런에서는 MinMaxScaler 변환기를 제공한다. feature_range 매개변수를 이용하여 출력 범위를 조절할 수 있다. 많은 이가 정규화(Nomarlization)이라고 부르는데, 노름과는 다른 개념이므로 주의하자.

표준화는 정규분포화하는 방법이다. 평균을 빼고, 표준편차를 나누어 분포의 분산이 1이 되도록 한다. StandardScaler

스케일링은 훈련데이터셋에 대해서만 fit()를 해야 하고, 다음 훈련 셋과 테스트 셋에 대해서는 transform()를 해야 한다.

변환 파이프라인

Pipeline 객체는 이름/추정기 쌍으로 구성된 항목(튜플)의 목록을 입력으로 받습니다. 이름은 무엇이든 상관없지만, 던더(__)가 포함되면 안됩니다.

DataFramSelector 같은 특성 변수를 선택할 수 있는 변환기를 간단하게 만들 수 있고, 이를 통해 특성별로 다른 작업을 수행할 수 있다. 예를 들어, 수치형과 범주형 특성을 2개의 다른 파이프라인으로 구성할 수 있다. 이렇게 구축한 파이프라인은 FeatureUnion 객체를 이용하여 합칠 수 있다. 파이프라인과 마찬가지로 파이프라인의 이름과 파이프라인 객체로 구성된 항목의 목록을 넘겨주면 된다.

모델 선택과 훈련

파이프라인을 통해서 데이터 정제를 하고 나면, 모델을 적용하는 건 매우 쉽다. 아래에 간단한 선형회귀모형과 결정트리 모형, 그리고 RMSE를 계측하기 위한 함수를 추가하였다. RMSE는 np.sqrt를 통해 제곱근을 해주어야 한다.

from sklearn.linear_model import LinearRegression
from sklearn.tree import DecisionTreeRegressor
from sklearn.metrics import mean_squared_error

교차검증을 사용한 평가

아래 코드는 K-겹 교차검증(K-fold cross-validation) 함수로 훈련세트를 cv 매개변수로 지정한 갯수만큼 서브셋을 만들고, 한 세트는 평가에 사용하고 나머지 모든 폴드는 훈련에 사용하여, 선택된 폴드마다 평가 점수를 준다. 교차 검증은 비용함수 대신 효용함수를 사용하기 때문에 neg_mean_squared_error 함수를 이용한다.

from sklearn.model_selection import cross_val_score

책의 예시에서 과대적합되었던 결정트리보다, 선형 회귀가 교차검증 과정에서는 더 나은 성능을 보여준다. 랜덤 포레스트는 훨씬 나은 성능을 보여주는데, 검증셋트 점수와 비교해보면 차이가 많이 나는것으로 보아 과대접합되는 것으로 예상할 수 있다. 과대적합을 해결하기 위해서는 간단한 모델, 제한, 더 많은 데이터로 해결할 수 있다.

작업한 결과는 피클이나 sklean.externals.joblib를 통해서 저장해두는 것이 좋다. 그래서 여러 모델을 돌려보고 결과를 비교할 수 있다.

모델 세뷰 튜닝

하이퍼 파라미터를 수정하는 작업은 고된 작업인데, GridSearchCV를 사용해서 조합을 탐색 할 수 있다. 조합을 딕셔너리로 주고, 여러개의 딕셔너리를 묶어서 리스트로 넘겨주면 되는데, 딕셔너리에 준 모든 조합을 처리한다.

탐색공간이 커지면, RandomizedSearchCV를 사용하는 편이 낫다. 또 다른 방식으로 최적의 조합을 결합해서 찾아내는 앙상블 방식이 있다.

최상의 모델을 분석하여, 중요도를 찾아내는 것 같이 통찰을 얻어낼 수 있다. grid.search.best_estimator_.feature_importances_를 통해 변수간 중요도를 파악할 수 있다.

최종적으로 전체 테스트 세트를 통해서 모델을 평가한다. 이때, 하이퍼 파라미터를 조정하였기 때문에, 성능이 낮아질 수 있다. 하지만 전체셋에 다시 조정하면 안된다.

론칭, 모니터링, 그리고 시스템 유지보수

일정 간격으로 실시간 성능 체크를 하고, 성능이 급격히 떨어질 때 알람을 설정해두어야 한다. 이를 위해 시스템의 예측을 샘플링해서 평가해야 한다.

입력 자료의 품질 역시 평가 해야 한다.

마지막으로 새로운 데이터를 이용하여 정기적으로 훈련시켜주어야 한다. 자동화해주는 것이 좋으며, 수동으로 하면 주기가 길어지고, 새로운학습후 성능이 급변할 수 있다. 이 때 시스템을 그 이전상태로 쉽게 되돌릴 수 있어야한다.

직접해보기

캐글 같은 경연 사이트가 좋은 시작점이 될 수 있다.

연습문제

관련한 자료는 저자의 github 저장소에서 확일할 수 있다.

© 2018 Colin. All rights reserved.