부록 설계 질문 목록
수평 확장과 무상태 설계를 공부하면서 판단이 갈린 지점을 질문으로 모았다. 질문 번호는 공부하면서 쓴 번호를 그대로 따른다. 답은 접어 두었으니 먼저 스스로 판단해 보고 펼쳐서 비교한다. 각 결론의 근거와 트레이드오프는 연결된 문서에 있다.
- 1부 앱 서버를 무상태로 만들기: Q1 ~ Q6
- 2부 DB 확장과 샤딩: Q7 ~ Q10
공통 상황: 로그인한 사용자가 쓰는 웹 서비스가 애플리케이션 서버 1대로 돌고 있다. 트래픽이 늘어 서버를 3대로 늘리고, 앞에 로드밸런서를 두어 요청을 골고루 나눠 보낸다.
1부 앱 서버
Q1. 서버를 그대로 복제해서 붙이기만 하면 되나요?
아니라면 서버 한 대의 메모리나 로컬 디스크에 있어서 여러 대가 되는 순간 문제가 되는 것은 무엇이고, 각각 어떤 문제가 생기는가?
답과 결론
- 답: 그대로 복제하는 것이 낫다. 서버마다 환경이 다르면 관리할 곳이 는다. 여러 대가 되면 동시성 문제가 생기고 배치가 여러 번 돌 수 있다.
- 결론: 같게 복제하는 것이 맞다. 질문의 핵심은 복제했을 때 깨지는 것이다. 코드와 설정이 같아도 실행 중에 쌓이는 상태는 서버마다 다르다. 세션, 로컬 캐시, 스케줄 작업, 로컬 디스크 파일 네 가지다. → 복제해도 깨지는 것
Q1-1. 로그인은 서버 A가, 다음 요청은 서버 B가 받으면 어떻게 되나요?
서버 A는 세션을 자기 메모리에 저장했다. 이걸 막으려면 어떤 방법이 있는가?
답과 결론
- 답: 세션이 없어 인증을 다시 거쳐야 한다. Redis에 공용 세션 저장소나 JWT 토큰 저장소를 두거나 스티키 세션을 쓴다.
- 결론: 세 방법 모두 정석이다. 다만 JWT는 원래 저장소가 필요 없는 방식이다. 서명만 검증하면 어느 서버든 사용자를 확인한다. 스티키 세션은 상태를 없애지 않고 숨기기만 한다. → 세션
Q2. 탈취된 계정을 정지했는데, 공격자는 언제까지 서비스를 쓸 수 있나요?
JWT 액세스 토큰 만료가 1시간이다. 이걸 줄이려면 어떻게 하고, 그때 JWT의 "서버가 아무것도 기억하지 않는다"는 장점은 어떻게 되는가?
답과 결론
- 답: 1시간 안에는 계속 쓸 수 있다. 만료 시간을 줄일 수 있지만 계속 갱신해야 하는 불편이 따른다.
- 결론: 짧은 액세스 토큰과 서버에 저장하는 리프레시 토큰을 짝지어 불편을 없앤다. 즉시 차단하려면 차단 목록을 매 요청 조회해야 한다. 결국 서버가 무언가를 기억해야 한다. → 발급한 토큰을 되돌리기
Q3. 서버마다 로컬 캐시를 두었는데 가격이 바뀌면 어떻게 되나요?
상품 정보를 서버 메모리에 10분 동안 캐시했다. 가격 수정 요청을 처리한 서버 A만 자기 캐시를 비웠다.
답과 결론
- 답: 다른 서버로 간 요청은 갱신된 값을 보지 못한다. 공용 캐시 저장소를 둔다.
- 결론: 새로고침할 때마다 가격이 8,000원과 10,000원 사이를 오간다. 공용 캐시 외에 무효화 메시지 방송, 짧은 TTL, 2단 캐시가 있다. 먼저 정할 것은 얼마나 오래된 값을 허용하느냐다. 결제 금액은 캐시가 아니라 DB 원본으로 계산한다. → 로컬 캐시
Q4. 매일 새벽 3시 정산 작업이 3대에서 동시에 시작되면요?
어떤 문제가 생기고, 한 번만 실행되게 하려면 어떤 방법이 있는가?
답과 결론
- 답: 값을 덮어쓰거나 중복 데이터를 만들거나 지울 수 있다. 막히더라도 나머지가 오류 로그를 남겨 소음이 생긴다. 하나만 통과시키는 게이트로 DB나 Redis에 락을 건다(ShedLock).
SKIP LOCKED도 쓸 수 있다. - 결론: 피해를 데이터 손상과 소음으로 나눈 것이 맞다. 여러 서버 중 하나만 작업하게 하는 것은 분산 락이나 리더 선출이라고 부른다. ShedLock은 서로 막기,
SKIP LOCKED는 일 나누기로 성격이 다르다. 시계 차이 때문에lockAtLeastFor가 필요하다. → 스케줄 작업
Q5. lockAtMostFor = 30분인데 작업이 40분 걸리면요?
30분 시점에 무슨 일이 생길 수 있고, 락 말고 작업 자체를 어떻게 만들어 둬야 하는가?
답과 결론
- 답: 다른 서버의 배치가 돌 수 있다. 몇 번 실행해도 결과가 같게 멱등성을 보장한다.
- 결론: ShedLock은 스케줄이 울릴 때만 락을 확인하므로, 자주 도는 작업이거나 수동 재실행일 때 겹친다.
lockAtMostFor는 최악의 실행 시간보다 넉넉하게 잡는다. 멱등성은 조건부 상태 전이, 유니크 제약, 작게 나눠 커밋하기로 만든다. 락은 최적화이고 정합성은 멱등성이 지킨다. → 작업 자체를 멱등하게
Q6. 업로드 파일을 서버 로컬 디스크에 저장하면요?
서버가 여러 대일 때, 오토스케일링으로 서버가 줄어들 때 각각 어떤 문제가 생기고 어떻게 바꾸는가?
답과 결론
- 답: 서버마다 가진 파일이 달라 불완전한 페이지가 보인다. 서버가 줄면 파일이 유실된다. 공용 파일 저장소나 S3, EFS 같은 객체 스토리지를 본다.
- 결론: 사용자 업로드에는 보통 S3를 쓴다. presigned URL로 브라우저가 S3에 직접 올리고 CDN으로 내려받게 해 앱 서버가 파일 바이트를 만지지 않게 한다. DB에는 서버 경로 대신 객체 키를 저장한다. → 업로드 파일
2부 DB
Q7. 앱 서버를 20대로 늘렸더니 CPU는 남는데 느려지고 오류가 나요.
어디가 병목이 되었을 가능성이 높고, 왜 그런가?
답과 결론
- 답: 외부 시스템 IO가 문제다.
- 결론: 방향은 맞고, 더 좁히면 DB다. 앱 서버에서 뺀 상태가 모인 곳이 DB와 Redis이기 때문이다. 직접 원인은 커넥션 수다. 서버당 풀 10개 × 20대 = 200개가 DB 최대 연결 수를 넘는다. → 서버를 늘렸더니 DB가 막힌다
Q8. 조회가 90%일 때 DB가 버티게 하려면요?
앱 서버 20대, 서버당 풀 10개, DB 최대 연결 150개다. 쓸 수 있는 방법과 각각의 대가는?
답과 결론
- 답: 자주 조회되고 잘 바뀌지 않는 것은 캐시한다. 얼마나 옛 값을 허용할지 정해야 하고 복잡도가 오른다. 그래도 부족하면 CQRS로 읽기 전용 DB를 둔다. 복제 지연이 생기지만, 바로 바뀐 값을 읽을 때는 원본 DB에서 읽는다.
- 결론: 순서와 대가가 맞다. 설명한 것은 CQRS보다 읽기 복제본에 가깝고, 방금 쓴 값을 원본에서 읽는 것은 read-your-writes라고 한다. 커넥션 수 초과는 그보다 먼저 쿼리·인덱스 개선, 풀 축소, 커넥션 프록시로 싸게 푼다. → 읽기 덜어 내기
Q9. 쓰기가 원본 DB 한 대의 한계에 닿으면, 샤드 키는 무엇으로 하나요?
서버 사양은 이미 최고로 올렸다. 주문 데이터를 DB 3대에 나눌 때 샤드 키와 그 이유, 그리고 하나의 DB일 때는 쉬웠는데 어려워지는 일은?
답과 결론
- 답: (먼저 파티셔닝인지 샤딩인지 물었다. 한 서버가 이미 최고 사양이라 여러 서버로 나누는 샤딩이다.) 주문번호나 사용자 ID로 한다. 유일성을 보장하기 때문이다. 조인이 어려워지고 쏠림이 생길 수 있다.
- 결론: 샤드 키는 유일성보다 고르게 퍼지는지, 가장 잦은 조회가 한 서버에서 끝나는지로 고른다. "내 주문 목록"이 가장 잦으므로 보통 사용자 ID다. 판매자별 조회는 CQRS로 받는다. 조인과 쏠림 외에 여러 서버 트랜잭션, 전역 ID, 전체 정렬·집계, 재샤딩이 어려워진다. → 쓰기 나누기
Q10. user_id % 3을 % 4로 바꾸면 무슨 일이 생기나요?
1년 뒤 4대로 늘린다. 이 문제를 줄이려면 처음부터 어떻게 설계해 뒀어야 했나?
답과 결론
- 답: 생각하지 못했다.
- 결론: 사용자의 75%가 다른 서버로 가야 한다. 규칙만 바꾸면 주문 내역이 사라진 것처럼 보이고, 먼저 옮기려 해도 운영 중에 75%를 옮겨야 한다. 처음부터
user_id % 1024같은 논리 샤드와 매핑 표로 물리 서버 수와 나누는 규칙을 분리해 둔다. 일관된 해싱과 디렉터리 방식도 있다. → 다시 나누기