[파이썬] PyTorch 직관적인 모델 시각화

07 Sep 2023

PyTorch

PyTorch은 딥러닝 모델을 구축하고 훈련하기 위한 강력한 프레임워크입니다. 하지만 모델의 복잡성이 증가할수록 모델의 내부 구조를 이해하고 디버그하기 어려워집니다. 이러한 경우에는 모델의 직관적인 시각화가 도움이 될 수 있습니다. 이번 블로그에서는 PyTorch를 사용하여 모델을 시각화하는 방법을 살펴보겠습니다.

Graph Visualization

PyTorch에서 모델을 시각화하는 일반적인 방법은 그래프 시각화입니다. Graph Visualization은 모델의 아키텍처와 모델 내의 계산 흐름을 이해할 수 있는 그래프를 생성합니다. PyTorch에서는 torchviz라이브러리를 사용하여 모델 그래프를 생성할 수 있습니다.

import torch
from torchviz import make_dot

# 모델 정의
model = torch.nn.Sequential(
    torch.nn.Linear(10, 20),
    torch.nn.ReLU(),
    torch.nn.Linear(20, 2)
)

# 예제 입력 데이터
example_input = torch.randn(1, 10)

# 모델 그래프 생성
graph = make_dot(model(example_input), params=dict(model.named_parameters()))
graph.view()

위의 코드에서 make_dot 함수는 모델의 출력과 파라미터를 사용하여 그래프를 생성합니다. view 함수를 사용하여 생성된 그래프를 시각화할 수 있습니다.

Model Summary

또 다른 모델 시각화 방법은 모델 요약입니다. 모델 요약은 모델의 레이어와 해당 레이어의 입력 및 출력 크기를 보여주는 요약 표를 생성합니다. 이를 통해 모델의 계층 구성을 빠르게 파악할 수 있습니다.

from torchsummary import summary

# 모델 요약 생성
summary(model, (1, 10))

위의 코드에서 summary 함수는 모델과 입력 크기를 사용하여 모델 요약을 생성합니다. 입력 크기는 모델의 첫 번째 레이어에 맞춰야 합니다.

Activation Visualization

모델의 레이어에서 활성화되는 Activation map을 시각화하여 모델의 학습 및 추론 프로세스를 이해할 수도 있습니다. 활성화 맵은 뉴런이 활성화되는 정도를 시각화한 것으로, 이미지 분류 모델에서 특히 유용합니다.

import torch
import torch.nn as nn
import torch.nn.functional as F
import matplotlib.pyplot as plt

# 모델 정의
class Model(nn.Module):
    def __init__(self):
        super(Model, self).__init__()
        self.conv1 = nn.Conv2d(1, 10, kernel_size=5)
        self.conv2 = nn.Conv2d(10, 20, kernel_size=5)
        self.fc1 = nn.Linear(320, 50)
        self.fc2 = nn.Linear(50, 10)

    def forward(self, x):
        x = F.relu(F.max_pool2d(self.conv1(x), 2))
        x = F.relu(F.max_pool2d(self.conv2(x), 2))
        x = x.view(-1, 320)
        x = F.relu(self.fc1(x))
        x = self.fc2(x)
        return x

# 모델 인스턴스 생성
model = Model()

# 예제 입력 데이터
example_input = torch.randn(1, 1, 28, 28)

# 활성화 맵 시각화
output = model(example_input)
for i in range(output.size(1)):
    plt.imshow(output[0, i].detach().numpy(), cmap='hot')
    plt.show()

위의 코드에서는 Model 클래스를 정의하고, 입력 이미지에 대한 활성화 맵을 시각화합니다. imshow 함수를 사용하여 각 채널의 활성화 맵을 표시합니다.

Conclusion

PyTorch를 사용하면 모델을 직관적으로 시각화할 수 있습니다. 그래프 시각화, 모델 요약, 활성화 맵 시각화 등 다양한 방법을 사용하여 모델의 구조와 동작을 이해할 수 있습니다. 이를 통해 딥러닝 모델을 더욱 효과적으로 개발하고 디버그할 수 있습니다.