[c++] 스레드 풀과 스레드 풀 크기 동적 조절

07 Dec 2023

스레드 풀은 다수의 작업을 처리하기 위해 스레드를 효율적으로 관리하는데 사용됩니다. 스레드 풀의 크기 동적 조절은 작업 부하에 따라 스레드의 수를 조정하여 시스템 자원을 효율적으로 사용할 수 있도록 해줍니다. 이 블로그에서는 C++에서 스레드 풀을 만들고 그 크기를 동적으로 조절하는 방법을 알아보겠습니다.

1. C++에서의 스레드 풀 구현

C++11부터는 표준 라이브러리에 std::thread와 std::async를 사용하여 스레드를 생성하고 작업을 수행할 수 있습니다. 또한 C++11 이후에는 std::thread와 std::async를 기반으로 스레드 풀을 만들 수 있습니다.

#include <iostream>
#include <vector>
#include <thread>
#include <queue>
#include <mutex>
#include <condition_variable>

class ThreadPool {
public:
    ThreadPool(size_t numThreads) {
        for (size_t i = 0; i < numThreads; ++i) {
            threads.emplace_back([this] {
                while (true) {
                    std::function<void()> task;
                    {
                        std::unique_lock<std::mutex> lock(queueMutex);
                        condition.wait(lock, [this] { return stop || !tasks.empty(); });
                        if (stop && tasks.empty()) {
                            return;
                        }
                        task = std::move(tasks.front());
                        tasks.pop();
                    }
                    task();
                }
            });
        }
    }

    template<class F>
    void enqueue(F&& f) {
        {
            std::unique_lock<std::mutex> lock(queueMutex);
            tasks.emplace(std::forward<F>(f));
        }
        condition.notify_one();
    }

    ~ThreadPool() {
        {
            std::unique_lock<std::mutex> lock(queueMutex);
            stop = true;
        }
        condition.notify_all();
        for (std::thread& thread : threads) {
            thread.join();
        }
    }

private:
    std::vector<std::thread> threads;
    std::queue<std::function<void()>> tasks;
    std::mutex queueMutex;
    std::condition_variable condition;
    bool stop = false;
};

위 코드는 C++에서 간단한 스레드 풀을 구현한 것입니다. 큐를 사용하여 작업을 관리하고, 스레드는 큐에서 작업을 가져와 실행하는 형태로 동작합니다.

2. 스레드 풀 크기 동적 조절

스레드 풀의 크기를 동적으로 조절하기 위해서는 작업 큐의 길이나 대기 중인 작업의 수를 기반으로 스레드의 수를 조절할 수 있습니다. 아래는 스레드 풀의 크기를 동적으로 조절하는 예시입니다.

class DynamicThreadPool : public ThreadPool {
public:
    DynamicThreadPool(size_t minThreads, size_t maxThreads)
        : ThreadPool(minThreads), minThreads(minThreads), maxThreads(maxThreads) {}

    void enqueueTaskWithDynamicSizing(const std::function<void()>& task) {
        // Retrieve the number of pending tasks
        size_t pendingTasks = getPendingTaskCount();

        // Increase the number of threads if the queue is consistently full
        if (pendingTasks > threads.size()) {
            size_t newThreadCount = std::min(pendingTasks, maxThreads) - threads.size();
            for (size_t i = 0; i < newThreadCount; ++i) {
                threads.emplace_back([this] {
                    while (true) {
                        std::function<void()> task;
                        {
                            std::unique_lock<std::mutex> lock(queueMutex);
                            condition.wait(lock, [this] { return stop || !tasks.empty(); });
                            if (stop && tasks.empty()) {
                                return;
                            }
                            task = std::move(tasks.front());
                            tasks.pop();
                        }
                        task();
                    }
                });
            }
        }
        ThreadPool::enqueue(task);
    }

private:
    size_t getPendingTaskCount() {
        std::unique_lock<std::mutex> lock(queueMutex);
        return tasks.size();
    }

    size_t minThreads;
    size_t maxThreads;
};

위 코드는 DynamicThreadPool 클래스를 정의하여 스레드 풀의 크기를 동적으로 조절하는 방법을 보여줍니다. enqueueTaskWithDynamicSizing 함수는 작업이 추가될 때마다 작업 큐의 길이를 고려하여 스레드 풀의 크기를 조정합니다.

요약

이번 글에서는 C++을 사용하여 스레드 풀을 구현하고, 스레드 풀의 크기를 동적으로 조절하는 방법을 살펴보았습니다. 스레드 풀은 다수의 작업을 효율적으로 처리하고, 동적으로 크기를 조절하는 것은 시스템 자원을 효율적으로 활용하여 성능을 향상시킬 수 있습니다.

참고 문헌:

C++ Concurrency in Action, Second Edition by Anthony Williams