폭주와 우선순위

줄을 나누고 일꾼을 따로 배정합니다.

마케팅 100만 건 뒤에 비밀번호 재설정 알림이 붙으면 초당 1만이라도 100초가 걸립니다.

급한 줄은 양이 적어서 늘 비어 있고, 그 비어 있음이 1분을 지켜 줍니다.

흔한 실수: 큐 하나에 우선순위 값을 두고 정렬하는 것. 정렬은 되지만 이미 일꾼이 처리 중인 것은 앞지를 수 없고, 큐가 길면 정렬 비용도 커집니다. 줄을 물리적으로 나누는 편이 단순하고 확실합니다.

급한 줄에 넣을 수 있는 종류를 목록으로 관리합니다.

보내는 서비스가 종류를 정하는 것이 자연스럽지만, 모두가 자기 알림을 급하다고 하면 급한 줄도 곧 막힙니다.

급한 줄에 넣을 수 있는 알림 종류를 미리 등록한다
등록되지 않은 종류는 보통 줄로 간다

그리고 급한 줄의 양을 지표로 봅니다. 급한 줄이 커지고 있으면 분류가 무너지고 있다는 신호입니다.

흔한 실수: 우선순위를 요청자가 자유롭게 정하게 두는 것. 우선순위는 희소한 자원을 나누는 규칙이라 모두가 최고를 고르면 규칙이 사라집니다. 누가 정하는지가 우선순위 설계의 핵심입니다.

세 가지 이유가 같은 결론을 가리킵니다.

세 번째가 특히 중요합니다. 100만 명에게 동시에 알리면 그 앱과 서버가 동시 접속을 받습니다. 알림 시스템이 상대 서비스를 무너뜨리는 셈입니다.

흔한 실수: 발송 속도를 최대로 두는 것. 빠른 발송이 목표처럼 보이지만 알림의 목적은 사용자가 오게 하는 것이고, 와서 서비스가 죽어 있으면 알림이 손해가 됩니다.

천천히 보내면 가능합니다. 한꺼번에 밀어 넣으면 불가능합니다.

대량 발송은 시작한 뒤 잘못을 알게 되는 일이 흔합니다. 내용이 틀렸거나 대상이 잘못됐을 때입니다.

큐에 다 넣고 시작하면 취소할 방법이 없다
발송 작업을 하나의 단위로 두고 중단 가능하게 만든다

천천히 보내는 것이 취소 가능성을 만듭니다. 앞의 세 이유와 같은 결론입니다.

흔한 실수: 취소를 큐 비우기로 구현하는 것. 큐에는 여러 발송 작업의 항목이 섞여 있으므로 다른 작업까지 지웁니다. 작업 단위를 표시해 두고 그 표시로 걸러내야 합니다.