[python] Celery의 동시 작업 수 설정 방법은 어떻게 되는가?
Celery는 Python에서 사용되는 분산 작업 큐 프레임워크입니다. Celery를 사용하여 동시에 실행되는 작업 수를 제어할 수 있습니다. 이를 통해 시스템의 성능을 향상시키고 작업 처리 속도를 개선할 수 있습니다.
Celery에서 동시 작업 수를 설정하는 방법은 다음과 같습니다.
- Celery 설정 파일 만들기
Celery 프로젝트의 루트 디렉토리에 celeryconfig.py
또는 celery.py
와 같은 이름의 파일을 만듭니다.
- 동시 작업 수 설정
아래와 같이 파일에 해당 작업 수를 설정합니다.
# celeryconfig.py
# 작업자(worker) 수
CELERYD_CONCURRENCY = 10
# Pool 타입 설정 (prefork, threads 등)
CELERYD_POOL = 'prefork'
위의 예시에서는 동시에 10개의 작업자(worker)가 작업을 처리하며, prefork
라는 Pool 타입을 사용하고 있습니다.
- Celery 실행시 설정 적용
Celery 명령어를 실행할 때 설정 파일을 지정하여 설정을 적용할 수 있습니다.
celery -A 프로젝트이름 worker --config=celeryconfig
위의 예시에서는 celeryconfig
파일에 작성한 설정이 적용됩니다.
이제 Celery를 실행할 때 설정한 동시 작업 수에 따라 작업자(worker)들이 병렬로 작업을 처리할 것입니다. 이를 통해 시스템 자원을 최대한 활용하고 작업 처리 속도를 높일 수 있습니다.
더 많은 설정 옵션에 대해서는 Celery 공식 문서를 참고하세요.
참고: