[18장] 파이썬에서의 동시성 프로그래밍 방법과 코루틴 사용하기

파이썬에서의 동시성 프로그래밍 방법과 코루틴 사용하기

서론

혼자 공부하는 파이썬:1:1 과외하듯 배우는 프로그래밍 자습서, 한빛미디어

동시성과 병렬성은 프로그래밍에서 중요한 개념입니다. 동시성은 여러 작업이 동시에 실행되는 것을 의미하며, 병렬성은 여러 작업이 동시에 실행되는 것을 의미합니다. 이러한 개념들은 프로그램의 성능을 향상시키고 작업을 효율적으로 처리하는 데 도움을 줍니다. 따라서 개발자는 동시성과 병렬성을 이해하고 적절하게 활용하는 것이 중요합니다.

동시성 프로그래밍과 파이썬

파이썬에서의 동시성 프로그래밍에 대해 알아보도록 하겠습니다. 파이썬은 멀티프로세싱과 멀티스레딩을 사용하여 동시성을 구현할 수 있습니다. 멀티프로세싱은 CPU bound job에 유리하고, 멀티스레딩은 I/O bound job에 유리합니다. 하지만 스레드를 직접 사용하는 것은 까다롭고 비용이 비싸기 때문에 코루틴을 사용하는 것이 좋습니다. 코루틴은 서로 종속적이지 않고 상호 협력적인 관계를 갖습니다. 파이썬에서는 asyncio와 같은 라이브러리를 사용하여 코루틴을 구현할 수 있습니다. 이러한 방법들을 통해 파이썬에서도 동시성 프로그래밍을 할 수 있습니다.

동시성과 병렬성의 개념 이해

혼자 공부하는 파이썬:1:1 과외하듯 배우는 프로그래밍 자습서, 한빛미디어

동시성과 병렬성은 프로그래밍에서 중요한 개념으로 사용됩니다. 동시성은 여러 작업이 동시에 실행되는 것처럼 보이는 것을 말하며, 병렬성은 실제로 여러 작업이 동시에 실행되는 것을 말합니다. 이러한 개념을 이해하기 위해서는 쓰레드와 다중 프로세서 프로그래밍에 대한 이해가 필요합니다.

쓰레드는 하나의 프로세스 내에서 실행되는 작업의 단위입니다. 보통 한 프로세스는 하나의 쓰레드를 가지고 있지만, 다중 쓰레드 프로그래밍을 통해 여러 개의 쓰레드를 동시에 실행할 수 있습니다. 이를 멀티스레딩이라고 합니다. 멀티스레딩은 동시성을 구현하기 위한 방식으로, 여러 개의 쓰레드가 번갈아가면서 실행되는 방식입니다. 이는 싱글 코어에서도 가능합니다.

반면에 다중 프로세서 프로그래밍은 병렬성을 구현하기 위한 방식입니다. 다중 프로세서는 여러 개의 프로세서를 가지고 있는 컴퓨터를 말합니다. 각 프로세서는 독립적으로 작업을 처리하므로 병렬적으로 실행될 수 있습니다. 이는 물리적으로 정확히 동시에 실행되는 것을 의미합니다.

동시성과 병렬성은 비동기 프로그래밍을 구현하는 데에도 사용됩니다. 비동기 프로그래밍은 코드의 실행 결과를 기다리지 않고 다음 코드를 실행하는 방식으로, 병렬성을 이용하여 빠른 작업 처리를 가능하게 합니다. 이를 위해 애플은 Grand Central Dispatch (GCD)와 Operation Queue를 제공하고 있습니다.

Do it! 알고리즘 코딩 테스트: 파이썬 편:코딩 테스트를 처음 준비하는 취준생의 필독서!, 이지스퍼블리싱

동시성 프로그래밍이란?

동시성 프로그래밍은 여러 작업이 동시에 실행되는 것처럼 보이거나 실제로 동시에 실행되도록 하는 프로그래밍 방식입니다. 이는 멀티태스킹을 통해 효율성을 높이고, I/O 바운드(I/O 작업에 의해 성능이 제한되는) 또는 CPU 바운드(CPU 처리 능력에 의해 성능이 제한되는) 작업의 성능을 향상시킬 수 있습니다.

코루틴 (Coroutines)

코루틴은 동시성 프로그래밍을 위한 파이썬의 기능 중 하나입니다. 코루틴은 함수가 종료되지 않고 중간에 멈췄다가 필요할 때 다시 시작할 수 있는 능력을 가진 특별한 종류의 함수입니다. 이를 통해 비동기 프로그래밍을 쉽게 구현할 수 있습니다.

예제: 코루틴을 사용한 비동기 I/O

아래 예제에서는 asyncio 모듈을 사용하여 비동기 I/O 작업을 수행하는 코루틴을 만들어 봅시다.

import asyncio

async def my_coroutine():
    print("Start Coroutine")
    await asyncio.sleep(1)  # 비동기적으로 1초 대기
    print("End Coroutine")

# 이벤트 루프 생성 및 코루틴 실행
async def main():
    await my_coroutine()

# 이벤트 루프 실행
asyncio.run(main())
파이썬을 이용한 알고리즘 트레이딩:아이디어 도출부터 클라우드 배포까지, 제이펍

예제: 동시에 여러 코루틴 실행하기

여러 코루틴을 동시에 실행하는 예제입니다.

import asyncio

async def my_coroutine(id, sleep_time):
    print(f"Coroutine {id} Start")
    await asyncio.sleep(sleep_time)
    print(f"Coroutine {id} End")

async def main():
    # 여러 코루틴을 동시에 실행
    await asyncio.gather(
        my_coroutine(1, 2),
        my_coroutine(2, 1),
        my_coroutine(3, 3)
    )

asyncio.run(main())

이 예제에서 asyncio.gather는 여러 코루틴을 동시에 실행할 수 있도록 합니다. 각 코루틴은 지정된 시간 동안 대기한 후 메시지를 출력합니다.

주의 사항

데이터를 다루며 배우는 파이썬:Python for Everybody, 인사이트
  • asyncawait 키워드는 Python 3.5 이상에서 사용할 수 있습니다.
  • 코루틴은 비동기적 작업에 최적화되어 있으며, CPU 바운드 작업에는 적합하지 않을 수 있습니다.
  • 동시성 프로그래밍은 프로그램의 복잡도를 증가시킬 수 있으므로, 필요한 경우에만 사용하는 것이 좋습니다.

이러한 방식으로 파이썬에서 동시성 프로그래밍과 코루틴을 사용하여 비동기적으로 작업을 관리하고 효율을 높일 수 있습니다.

파이썬의 멀티프로세싱(multiprocessing)

파이썬의 멀티프로세싱(multiprocessing)은 동시에 여러 프로세스를 실행하여 작업을 분산시키는 방법입니다. 멀티프로세싱은 특히 CPU 바운드 작업, 즉 많은 계산이 필요한 작업에 효과적입니다. 파이썬의 GIL(Global Interpreter Lock)로 인해 멀티스레딩은 싱글 코어에서만 실행되지만, 멀티프로세싱을 사용하면 여러 CPU 코어를 사용하여 동시에 여러 작업을 처리할 수 있습니다.

멀티프로세싱 예제

아래는 파이썬에서 기본적인 멀티프로세싱을 사용하는 예제입니다. 여기서는 Process 클래스를 사용하여 여러 프로세스를 생성하고 실행합니다.

import multiprocessing
import os
import time

def worker(number):
    print(f"Worker {number} started on PID: {os.getpid()}")
    time.sleep(2)  # 실제 작업을 표현하기 위한 대기 시간
    print(f"Worker {number} finished")

if __name__ == "__main__":
    # 프로세스 생성
    processes = []
    for i in range(5):  # 5개의 워커 프로세스 생성
        process = multiprocessing.Process(target=worker, args=(i,))
        processes.append(process)
        process.start()

    # 모든 프로세스가 종료될 때까지 대기
    for process in processes:
        process.join()

    print("All processes have finished.")

이 코드는 5개의 워커 프로세스를 생성하고, 각 프로세스가 독립적으로 작업을 수행하도록 합니다. 모든 프로세스는 start() 메소드로 시작되고, join() 메소드로 모든 프로세스가 종료될 때까지 메인 프로세스가 대기합니다.

FastAPI를 사용한 파이썬 웹 개발 : 라우팅 기초부터 플래너 애플리케이션 구축 및 배포까지, 한빛미디어

멀티프로세싱과 데이터 공유

멀티프로세싱에서 데이터 공유는 조금 복잡합니다. 프로세스 간 통신을 위해서는 QueuePipe와 같은 특별한 데이터 구조를 사용해야 합니다.

주의 사항

  • 멀티프로세싱은 추가적인 메모리와 오버헤드를 발생시킬 수 있습니다.
  • 모든 종류의 작업에 멀티프로세싱이 적합한 것은 아닙니다. 특히 I/O 바운드 작업에서는 멀티스레딩이나 비동기 프로그래밍이 더 효과적일 수 있습니다.
  • 멀티프로세싱은 프로그램의 복잡도를 증가시킬 수 있으므로, 성능 향상이 필요한 경우에만 적절하게 사용하는 것이 좋습니다.

멀티프로세싱은 파이썬에서 병렬 처리를 구현하는 강력한 방법이지만, 사용하기 전에 그 특성과 최적의 사용 사례를 이해하는 것이 중요합니다.

결론

동시성과 병렬성은 프로그래밍 성능을 향상시키는 데에 중요한 개념입니다. 멀티스레딩과 다중 프로세서 프로그래밍을 통해 동시성과 병렬성을 구현하고, 비동기 프로그래밍을 통해 빠른 작업 처리를 가능하게 하는 것은 현대 프로그래밍에서 필수적인 기술입니다. 파이썬에서는 멀티프로세싱, 멀티스레딩, 코루틴과 같은 방법을 사용하여 동시성 프로그래밍을 할 수 있습니다.

다른 글 보기