CS 강의 4. 쓰레드와 쓰레드풀

출처 : 내일배움캠프

 

Summary : 쓰레드는 프로세스 내 실행되는 실행 단위로, 쓰레드 풀은 쓰레드를 미리 생성하고 작업 처리에 사용되는 쓰레드의 개수를 제한한다. 그 쓰레드로 작업 큐에 있는 작업을 하나씩 처리한다. 쓰레드 풀의 장점은 쓰레드를 생성/수거할 때 비용이 들지 않고 쓰레드 풀을 미리 만들어 두기 때문에 소요되는 시스템 리소스를 최적화할 수 있다. 하지만 쓰레드 풀에 쓰레드를 너무 많이 생성하고 사용하지 않는 경우에는 메모리 누수로 이어진다

0. 프로세스와 쓰레드

0 - 1. 프로그램 실행 주체 : 프로세스

(ex : 하나의 건물(컴퓨터)에서 다양한 가게(프로세스)가 있고, 각 가게에는 주문을 처리하는 직원(쓰레드)가 있다)

- 각 프로세스는 배정된 공간과 메모리가 있다

0 - 2. 작업 처리 주체 : 쓰레드

ex : 카카오톡 안 메세지 발송 쓰레드, 메세지 수신 쓰레드 등

- 쓰레드는 필요할 때마다 생성되며, 프로세스를 조회할 때 표시되는 쓰레드 수는 평균 스레드의 개수를 의미한다

- 치킨집 안 공간, 재료를 공유(자원 공유)

 

프로세스 vs 쓰레드

프로세스는 고유 공간과 자원을 할당받지만, 쓰레드는 다른 쓰레드와 공간과 자원을 공유한다

1. 쓰레드

1 - 1. 프로세스와 쓰레드의 차이점

- 프로세스는 메모리 안에서 실행 중인 프로그램이며, 쓰레드는 프로세스 안에서 작업을 처리하는 처리 단위다

- 프로세스는 최소한 하나의 쓰레드가 있어야 하며 프로세스의 자료구조는 주소와 공간을 각각 할당받는다(Code, Heap, Stack)

~ 만약 프로세스에 쓰레드 없이 프로세스만으로 작업을 처리한다면

-> 프로세스 생성, 컨텍스트 스위칭 시 오버헤드가 발생하고 컨텍스트 스위칭이 비효율적으로 동작한다

-> 프로세스 간 통신이 어렵다 : IPC(프로세스 간 통신 메커니즘), LPC, 공유 메모리를 사용한 통신은 비용이 많이 든다

- 쓰레드는 다른 쓰레드와 공간과 자원을 공유하며 사용한다

- 쓰레드는 자원 중 Stack만 따로 할당받고 나머지 영역은 쓰레드 간 서로 공유한다. 쓰레드가 있어서 프로세스보다 작은 단위로 작업을 처리할 수 있고, 프로세스의 생성 및 소멸에 따른 오버헤드가 감소한다. 자원 공유로 인한 빠른 컨텍스트 스위칭이 가능하며, 프로세스 간 통신의 어려움을 대신한 효율적인 통신이 가능하다

1 - 2. 프로세스와 쓰레드의 주소공간

프로세스의 주소공간

프로세스 : 컴퓨터에서 연속적으로 실행하고 있는 컴퓨터 프로그램, 메모리에 올라와 실행되고 있는 프로그램의 인스턴스(독립적인 개체), 운영체제로부터 시스템 자원을 할당받는 자원의 단위 ~ 프로그램의 실행된 부분

 

 프로세스의 특징

- 각각의 독립된 메모리 영역을 항당받는다

- 최소 1개 이상의 쓰레드(메인 쓰레드)를 가지고 있다

- 각 프로세스는 별도의 주소 공간에서 실행되며 원칙적으로 다른 프로세스의 자원에 접근할 수 없다

- 프로세스간 통신은 IPC를 사용해야 한다

- CPU는 한 번에 하나의 프로세스만을 실행할 수 있다

 

쓰레드의 주소공간

쓰레드 : 프로세스 내 실행되는 여러 작업의 단위, 프로세스의 특정 수행 경로, 프로세스가 할당받은 자원을 이용하는 최소 실행 단위

 

쓰레드의 특징

- 프로세스 내 필요한 Stack만 할당받고 다른 Code, Data, Heap영역은 공유한다

- 같은 프로세스 내 쓰레드 간 자원을 공유해 실행된다 ~ Heap 영역 변수를 수정할 수 있다

- 프로세스 하나만 사용해 프로그램을 실행한다면 메모리 누수가 발생하므로 스레드가 필요하다. 프로세스와 다르게 스레드 간 메모리를 공유하며 작동한다 ~ 프로세스가 할당받은 자원을 이용해 처리 작업을 수행하는 것이다

ex) 치킨집에서 각자 일하는 공간(Stack)이 다르지만, 업무 메뉴얼(Code), 주문(Data), 메인 홀(Heap)을 공유한다

 

각 쓰레드가 독립적으로 가지는 부분

- program counter(실행 명령어)

- register set

- stack space

쓰레드가 공유하는 부분

- code section

- data section

- OS resources

 

+ heavy weight process는 하나의 쓰레드를 가진 작업으로 볼 수 있다

1 - 3. 멀티 프로세스와 멀티 쓰레드

쓰레드는 운영체제의 스케줄러에 의해 독립적으로 관리될 수 있는 프로그래밍된 명령어의 가장 작은 흐름이다. 하나의 프로세스는 하나 이상의 쓰레드를 갖고 있다

- 멀티 프로세스 : 하나의 운영체제 안에서 여러 프로세스가 실행되는 것

- 멀티 쓰레드 : 하나의 프로세스가 여러 작업을 여러 쓰레드를 사용해 동시 처리하는 것

2. 쓰레드풀

2 - 1. 쓰레드풀이란

쓰레드풀은 프로그램에서 실행의 동시성을 달성하기 위한 소프트웨어 디자인 패턴이다. 쓰레드를 여러 개 미리 생성해두고 프로그램이 여러 작업을 동시에 실행할 수 있도록 유지관리하며 쓰레드를 통한 작업을 병렬로 실행할 수 있도록 할 때,

작업 처리에 사용되는 쓰레드를 제한된 개수만큼 미리 정해두고 작업 큐의 작업을 쓰레드가 맡아서 처리할 수 있도록 한다

 

쓰레드풀의 동작

1. 초기화 : 쓰레드풀을 사용하기 전 초기화한다. 쓰레드풀의 크기, 최대 쓰레드 수, 작업 큐 등의 매개변수를 설정한다

2. 작업 수신 : 쓰레드풀은 작업을 수신하고 처리할 준비를 한다. 작업은 일반적으로 작업 큐에 추가된다

3. 작업 수행 : 쓰레드풀에선 미리 생성된 쓰레드들이 작업 큐를 모니터링하고 대기 중인 작업을 가져와 처리한다. 쓰레드풀 내의 쓰레드는 일반적으로 무한 루프를 돌면서 작업을 기다리고 있다

4. 작업 처리 : 쓰레드가 작업을 처리한다. 작업 큐에서 FIFO로 가져온다

5. 작업 완료 및 반환 : 작업 결과를 반환하고 쓰레드는 다시 대기 상태로 전환된다. 이후 쓰레드풀이 더이상 사용되지 않을 때까지 반복한다

6. 종료 : 쓰레드풀을 더 이상 사용하지 않을 때 종료한다. 종료 시 모든 작업이 완료되었는지 확인하고, 필요에 따라 남은 작업에 대해 처리하거나 버릴 수 있다

2 - 2. 쓰레드풀을 사용하는 이유

1. 프로그램 성능 저하를 방지하기 위해

- 모든 작업 수요에 따른 쓰레드의 생성과 수거를 그때마다 한다면, 프로그램에 부하가 더 걸리게 되어 퍼포먼스가 저하되기 때문에 쓰레드풀을 사용한다

- 쓰레드는 프로세스의 메모리르 사용하기 때문에, (Java의 경우 JVM의 메모리)쓰레드 자체의 Register와 Stack이 있고 작업 간 컨텍스트 스위칭이 발생하기 때문에 쓰레드 생성과 수거에 따른 메모리 할당을 무시할 수 없다

 

2. 다수의 사용자 요청을 처리하기 위해

- 대규모 프로젝트에서, 다수 사용자의 요청을 빠르게 처리하고 대응하기 위해 쓰레드풀을 사용한다. 병목 현상이 발생하는 I/O, 데이터베이스 작업에서 주로 사용한다

- 쓰레드 생성 시 시스템 스케줄러에서 쓰레드의 우선순위를 매번 할당해서 생성해야 하는데, 쓰레드풀을 사용할 경우 쓰레드는 처음에 생성된 쓰레드를 활용하기 때문에 쓰레드풀에 의해 쓰레드의 라이프 사이클이 관리되므로 스케줄러를 매번 이용할 필요가 없어 효율적이다

2 - 3. 쓰레드풀의 장단점

장점

- 쓰레드를 생성, 수거할 때 비용이 들지 않는다

- 쓰레드가 생성될 때 OS가 메모리 공간을 확보해주고 메모리를 쓰레드에게 할당한다

- 쓰레드풀을 미리 만들어두기 때문에 처음 생성 비용이 있지만, 이전 쓰레드를 재사용할 수 있어 시스템 자원 사용량을 줄일 수 있고, 작업 요청 시 쓰레드가 이미 대기하고 있기 때문에 작업 실행 딜레이가 발생하지 않는다

 

단점

쓰레드풀에 쓰레드를 너무 많이 생성하고 사용하지 않으면 메모리 누수가 발생한다

 

-> Fork Join Thread Pool

Java 7 이상에서 사용하는 Fork Join Thread Pool

2 - 4. 동시성과 병렬성

동시성

싱글 코어에서 멀티 쓰레드를 동작시키는 방식으로 멀티 태스킹을 위해 여러 쓰레드가 번갈아가며 실행, 작업을 처리하는 것을 의미한다. 병렬적으로 실행되는 것"처럼" 보일 뿐이다

 

병렬성

멀티 코어에서 멀티 쓰레드를 동작시키는 방식으로 한 개 이상의 쓰레드를 갖고 있는 각 코어가 동시에 실행되는 것을 말한다. 데이터 병렬성과 작업 병렬성으로 나뉜다

데이터 병렬성

전체 데이터를 쪼개 서브 데이터로 만든 뒤, 서브 데이터를 병렬 처리해 작업을 빠르게 수행

~ 자바 8 이상에서 지원하는 병렬 스트림

~ 멀티 코어의 수만큼 데이터를 쪼개 각 데이터를 쓰레드들이 병렬 처리한다

작업 병렬성

서로 다른 작업을 병렬 처리하는 것이다. 웹 서버의 경우 각 브라우저(클라이언트)가 요청한 내용을 개별 쓰레드에서 병렬로 처리하기 때문에 작업 병렬성을 가진다