컨텍스트 스위칭

CPU 가 실행 중인 흐름을 바꾸기 위해 현재 상태를 저장하고 다음 상태를 복원하는 작업입니다.

발생하는 시점입니다.

흔한 실수: 시스템 콜을 문맥 교환과 같은 것으로 답하는 것. 시스템 콜은 같은 프로세스 안에서 모드만 바꾸는 것(모드 전환)이고, 문맥 교환은 실행 주체가 바뀌는 것입니다. 비용도 한 자릿수 차이가 납니다.

주소 공간을 바꾸는지가 갈림길입니다.

직접 비용(레지스터 저장)은 둘이 비슷합니다. 차이는 간접 비용에서 납니다. 주소 공간이 바뀌면 TLB 항목이 무효화되어 한동안 변환 실패가 이어지고, 캐시에 있던 내용도 새 프로세스에는 쓸모가 없습니다.

그래서 같은 프로세스의 스레드끼리 전환하는 것이 몇 배 쌉니다. 다만 스레드가 수천 개가 되면 절대 횟수가 늘어 결국 같은 벽을 만납니다.

흔한 실수: 직접 비용만 비교하는 것. 마이크로초 단위 측정으로는 비슷해 보이지만, 이후 수천 번의 메모리 접근이 느려지는 것이 실제 비용입니다.

전환 자체보다 전환 이후 느려지는 것이 더 큽니다.

L1 캐시는 1ns 안팎이고 메모리는 100ns 안팎이라, 캐시가 식으면 같은 코드가 수십 배 느려집니다. 전환 자체가 마이크로초 단위여도 이후 수천 번의 접근이 느려지면 그쪽이 훨씬 큽니다.

측정할 때는 커널이 쓰는 시간 비율을 봅니다. sys 가 user 보다 크면 교환과 시스템 호출에 시간을 쓰고 있다는 신호입니다.

흔한 실수: 문맥 교환 횟수만 보고 판단하는 것. 같은 횟수라도 작업 집합이 캐시에 들어가는지에 따라 체감 비용이 크게 다릅니다.

전환 횟수를 줄이거나, 전환이 필요 없는 구조로 바꿉니다.

첫 번째가 가장 효과가 큽니다. 동시 연결 2,000에 연결당 스레드를 두면 커널이 이들을 번갈아 실행하는 일 자체에 CPU 가 소진됩니다. 이벤트 기반으로 바꾸면 실행 흐름이 코어 수만큼만 남습니다.

흔한 실수: 스레드를 무조건 줄이는 것. I/O 대기가 긴 작업은 스레드가 적으면 대기만 하다 처리량이 떨어집니다. 대기 비율에 맞춰 정해야 합니다.