[python] Celery의 동시 작업 수 설정 방법은 어떻게 되는가?

Celery는 Python에서 사용되는 분산 작업 큐 프레임워크입니다. Celery를 사용하여 동시에 실행되는 작업 수를 제어할 수 있습니다. 이를 통해 시스템의 성능을 향상시키고 작업 처리 속도를 개선할 수 있습니다.

Celery에서 동시 작업 수를 설정하는 방법은 다음과 같습니다.

  1. Celery 설정 파일 만들기

Celery 프로젝트의 루트 디렉토리에 celeryconfig.py 또는 celery.py와 같은 이름의 파일을 만듭니다.

  1. 동시 작업 수 설정

아래와 같이 파일에 해당 작업 수를 설정합니다.

# celeryconfig.py

# 작업자(worker) 수
CELERYD_CONCURRENCY = 10

# Pool 타입 설정 (prefork, threads 등)
CELERYD_POOL = 'prefork'

위의 예시에서는 동시에 10개의 작업자(worker)가 작업을 처리하며, prefork라는 Pool 타입을 사용하고 있습니다.

  1. Celery 실행시 설정 적용

Celery 명령어를 실행할 때 설정 파일을 지정하여 설정을 적용할 수 있습니다.

celery -A 프로젝트이름 worker --config=celeryconfig

위의 예시에서는 celeryconfig 파일에 작성한 설정이 적용됩니다.

이제 Celery를 실행할 때 설정한 동시 작업 수에 따라 작업자(worker)들이 병렬로 작업을 처리할 것입니다. 이를 통해 시스템 자원을 최대한 활용하고 작업 처리 속도를 높일 수 있습니다.

더 많은 설정 옵션에 대해서는 Celery 공식 문서를 참고하세요.

참고: