실시간 채팅 시스템 설계 면접 퀴즈

채팅 설계도 요구사항을 기능과 비기능으로 나누고 범위 밖을 먼저 자르는 것에서 시작합니다. 이 토픽은 아래 하나의 요구사항을 끝까지 풉니다.

기능 요구사항과 범위 밖

범위 밖을 말하는 것이 실력입니다. 검색을 빼면 저장 구조가 단순해지고, 종단간 암호화를 빼면 서버가 내용을 볼 수 있어 알림 문구를 만들 수 있습니다. 뺀 것이 남은 설계를 바꿉니다.

비기능 요구사항이 설계를 정한다

순서를 어디까지 보장할지가 확장을 정한다

전역 순서를 보장하려면 모든 메시지가 한 곳을 지나야 합니다. 그러면 그곳이 상한이 됩니다.

채널 안에서만 보장하기로 정하면 채널을 기준으로 나눠 처리할 수 있습니다. 다른 채널의 메시지가 서로 뒤바뀌어도 사용자는 알 수 없습니다. 한 대화방 안에서만 순서가 맞으면 됩니다.

이것이 요구사항을 읽는 방법입니다. 무엇을 포기해도 되는지 찾으면 확장 경로가 열립니다.

평균값은 반대로 읽는다

평균 12명 이라는 숫자는 과설계를 막는 쪽으로 씁니다. 최대가 5만 명 이라 팬아웃 설계가 필요하지만, 실제 채널 대부분은 12명이라 보낼 때 바로 전달해도 됩니다.

그래서 설계는 하나가 아니라 두 갈래가 됩니다. 작은 채널은 즉시 전달, 큰 채널만 다른 경로로 보냅니다. 최대값만 보고 모든 채널을 무겁게 처리하면 흔한 경우가 느려집니다.

메시지 하나를 보내면 채널 인원 수만큼 전달이 생깁니다. 이것을 팬아웃이라고 합니다. 채널이 최대 5만 명 이므로 한 번의 전송이 5만 개의 전달로 늘어납니다.

방식은 두 갈래이고, 쓰기와 읽기 중 어디에 비용을 낼지의 선택입니다.

두 방식의 대가

왜 하나로 통일하지 않나

평균 채널이 12명 이라 대부분은 복제해도 부담이 없습니다. 12개의 받은함에 쓰는 것은 아무 문제가 아니고, 읽기가 빨라지는 이득만 얻습니다.

문제는 소수의 큰 채널입니다. 5만 명 짜리 채널에 메시지 하나가 오면 5만 번의 쓰기가 발생하고, 그 채널이 활발하면 쓰기가 시스템을 밀어버립니다.

그래서 인원 수를 보고 경로를 고릅니다. 작은 채널은 복제하고, 큰 채널은 채널에만 저장해 읽을 때 모읍니다. 사용자 화면에서는 두 결과를 합쳐 보여줍니다.

경계값은 재서 정한다

몇 명부터 큰 채널로 볼지는 추측하지 않습니다. 채널 크기 분포와 채널별 메시지 빈도를 재서 쓰기 증폭이 감당 한계를 넘는 지점을 찾습니다. 인원이 많아도 조용한 채널은 복제해도 되고, 인원이 적어도 초당 수십 건이 오가면 부담이 됩니다.

오프라인 사용자는 다르게 다룬다

접속하지 않은 사용자에게 실시간 전달은 의미가 없습니다. 그 사람 몫의 팬아웃은 미룰 수 있습니다. 접속할 때 못 받은 메시지를 채널에서 가져오면 되고, 알림만 따로 보냅니다.

이렇게 나누면 20만 동시 접속자 몫만 실시간 경로를 타므로 팬아웃 폭이 크게 줄어듭니다.

동시 접속 20만 이 이 설계의 첫 제약입니다. 연결은 상시 점유입니다. 아무 메시지가 오가지 않아도 메모리와 소켓을 계속 씁니다. 메시지 처리는 순간 부하라 성격이 다릅니다.

자원 성격이 다르면 따로 늘려야 합니다. 그래서 연결을 받는 계층을 떼어냅니다.

왜 한 서버에 두면 안 되나

한 서버가 연결과 처리를 함께 맡으면 둘 중 하나가 낭비됩니다.

배포도 문제가 됩니다. 채팅 로직을 고칠 때마다 서버를 재시작하면 20만 개의 연결이 한꺼번에 끊깁니다. 클라이언트가 동시에 재접속을 시도해 그 자체가 부하가 됩니다.

계층을 나누면 처리 계층만 배포할 수 있고 연결은 유지됩니다.

게이트웨이가 알아야 하는 것

게이트웨이는 채팅 로직을 모릅니다. 어느 사용자가 어느 게이트웨이에 붙어 있는지만 알면 됩니다. 처리 계층이 "이 사용자에게 보내라" 고 하면 해당 게이트웨이로 넘깁니다.

이 접속 위치 정보를 어디에 두느냐가 다음 판단입니다.

접속과 종료가 잦으므로 이 정보는 자주 바뀌고 짧게 살아 있습니다. 영구 저장소보다 만료가 있는 캐시가 맞습니다.

연결이 끊기는 것은 정상이다

모바일에서 연결은 수시로 끊깁니다. 그래서 게이트웨이는 끊김을 오류로 다루지 않습니다. 접속 위치를 지우고, 그 사용자에게 갈 메시지는 채널에 남겨 둡니다. 다시 붙으면 못 받은 것부터 가져갑니다.

여기서 접속 상태를 "끊김 즉시 오프라인" 으로 바꾸면 화면이 깜빡입니다. 짧은 유예를 두고 그 안에 다시 붙으면 상태를 유지합니다.