분산 시스템 디자인

🕓 3 mins read

작게든 크게든 소프트웨어 개발자라면 언젠가는 시스템 디자인의 각 요소들을 한번쯤은 접할 일이 생깁니다.

학생때 배우는 내용이거나, 채용 면접을 준비하면서 본 내용이거나, 직접 각 요소를 핸들링 해야하는 입장일 수 도 있겠죠.

어떤 경우든, 미리 다음의 큰 요소들은 머리속에 정리가 되어있다면, 제법 scalable한 시스템을 시스템을 디자인 하는데에 도움이 될것입니다.

- 기본적으로 CS 배경 지식이 없다면, Karan Pratap Singh님의 시스템 디자인 프라이머도 한번 보시면 좋습니다.

https://github.com/karanpratapsingh/system-design#distributed-cache

---

# 기본 요소

기본 요소라고 굳이 부르는 이유는, 향후에 시스템 디자인을 할때 다음 요소들을 한번 숙지 하고 나면, 시스템 각 요소의 구체적인 설계나 기능 명세를 모르더라도 전체 시스템의 기본적인 구조를 구성하고 설계하는데 충분 하기 때문입니다.

물론 실무 개발 레벨에선 구현하는 서비스나 기능에 따라 분명 여기서 언급되는 기본 요소들 이외에도 챙겨야할 디테일이 많겠죠. 

무엇보다도, 아마존 웹서비스(AWS)를 비롯해, Azure, GCP등의 사설 클라우드 서비스에서 전부 제공하는 요소들이기 때문에 클라우드 환경이 보편화된 현 시점(2023년)에 개발자들이 알아 둘만한 내용입니다.

각 요소의 세부 내용은 차차 포스팅 해보도록 하고 간단하게 의존성이 낮은 순으로(디자인상 bottom up 식으로) 나열해봤습니다.

1. Domain Name System (DNS)

다양한 인터넷 프로토콜을 통해 연결된 계층 / 분산화된 네이밍 시스템이 어떻게 구성되는지를 알 수 있습니다.
속칭 tier-0 load balancer 라고도 합니다.

2. Load Balancers

여기에선 load balancer의 디자인을 이해하고, 유입되는 클라이언트 요청을 어떻게 분산 시켜 시스템 부하를 줄이고 오류에 강건한 시스템을 구축하는지 알 수 있습니다. 서비스 availability 보장을 위해, 서버 오류 대응, 서버 추가/삭제 등의 scale out등, 클러스터 구축에 반드시 필요한 존재죠.

3. Databases

각종 데이터의 저장, 삭제 , 업데이트 등을 관장하고, 데이터가 어떻게 분산환경에서 관리 되는지를 알 수 있습니다.
전에 한번 consistency model에 대한 글을 적은 적이 있는데 이와 밀접한 관계인 요소입니다. 레플리케이션, 파티셔닝 등을 위주로 한번 다뤄 보도록 하겠습니다.

4. Key-value Store

데이터베이스의 한 유형인데, noSQL이라고도 부르죠. 관계형(RDBMS) DB와는 달리 주로 사용하는 목적이 정해져 있는 편인데, RDBMS와 어떤 개념이 다른지, 어떻게 scalability를 확보하는지, 어떤 목적으로 주로 쓰이는지를 알아 보겠습니다.

5. Content Delivery Network (CDN)

웹상에서 비디오, 이미지, 오디오등의 용량이 큰 컨텐츠를 어떻게 처리 해야 사용자(end user)에게 효과적으로 전달될지, 사용자 경험이 어떻게 개선 되고 데이터 센터에 부하를 줄여주는지를 알 수 있습니다.

6. Sequencer

이게 왜 기본요소냐고 생각하실 수 도 있지만, 분산 환경에서 unique ID를 어떻게 관리할 수 있는지, consistency를 어떻게 유지하는지 다양한 방법론을 다뤄보려고 합니다. (간단히, unique ID generator 라고 보시면 됩니다.)

7. Service Monitoring

시스템을 구축했으면 모니터링을 해야겠죠? 더욱이 분산 시스템이라면 문제가 더 커져서 서비스에 급격한 변화를 일으키기 전에 조기에 탐지하여 대응해줘야합니다. 문제의 유형에 따라서 발생하지 않더라도, 문제가 발생 할 수 있는 조짐을 미리 파악하는것도 가능합니다.

8. Distributed Caching

캐싱은 서비스 응답 속도를 개선하는데에 기본 요소인데, 분산환경에서 캐싱을 어떻게 이루어지는지 다뤄보겠습니다.

9. Distributed Messaging Queue

기본 자료 구조중에 하나지만, 메세징 큐가 한대의 서버에 있지 않고 여러대의 서버에 걸쳐 분산되어있다면 어떻게 작동해야하는지, 어떤식으로 producer, consumer간의 상호작용이 일어나는지에 대해 이야기 해보도록 하겠습니다.

10. Publish-Subscribe System

Pub-sub 패턴은 특수한 경우에만 쓰일것 같지만, 생각보다 비동기 커뮤니케이션이 필요한곳에서 흔히 쓰이는 방법론입니다. Serverless, 마이크로서비스 아키텍쳐(MSA: 요샌 너무 남용하는 경향이 있는데 이것도 나중에 시간 될때 따로 이야기 해볼게요.) 그리고 데이터 프로세싱 관점에서 많이 쓰입니다.

11. Rate Limiter

쓰로틀링(throttling)이라고도 하죠. 특정 서비스의 요청이 너무 많이 들어올 경우 사전에 정의해둔 한계내에서 동작할 수 있도록 해주는 요소입니다. 주로 서비스를 방어하는 레이어로써 시스템 부하를 일정 수준 이내로 유지하는데 쓰입니다.

12. Blob Store

데이터베이스나  key-value store 밑에서 같이 다룰까 하다가 따로 뺀 요소입니다. 비정형 데이터를(멀티미디어, 바이너리) 다룬다는 관점에서 데이터베이스랑 비교해보시면 좋을 내용이 될것 같습니다.

13. Distributed Search

이제는 시스템 빌딩 블록이라고 부르기엔 단독 응용서비스라고도 부를 수 있겠는데요, 사용자로 부터 받은 쿼리(query: 영어론 퀴리가 실제 발음에 더 가깝지만 어째선지 학회에서 쿼리라고 읽으면 한국사람이라고 할 정도로 쿼리가 익숙하네요)에 대해 연관성이 높은 데이터를 빠르게 탐색해주는 요소죠. 크게 크롤링(crawl), 색인(index), 검색(search)로 나눠서 다뤄볼게요.

14. Distributed Logging

기능만을 본다면, 다량의 I/O 요청을 처리해야하니 만큼 서비스 응답 지연에 크게 한몫 차지하는 요소이기도 한데요, 실제로는 서비스 응답 속도에 영향을 미치지 않게끔 디자인 하게 됩니다. 어떻게 응답 지연을 일으키지 않고 효과적으로 분산 환경에서 로깅을 할 수 있는지 알아보도록 하겠습니다.

15. Distributed Task Scheduling

분산 환경에서는 복잡한게 많죠. 단순히 요청이 오가는것만 해도, 아니 그냥 unique ID를 보장하는것만 해도 간단하진 않은데 task scheduling 까지 하려면 너무 복잡해집니다. 주로 offload를 백그라운드에서 처리하고 비동기적으로 task가 완료되도록 하는 전략을 취합니다.

16. Sharded Counters

데이터베이스에 저장하는것과 크게 다르진 않을 수 있지만, 로그와는 다르게, 예를들어 SNS상에 좋아요 버튼 같은 요소들은 분산환경에서 거의 실시간으로 카운팅을 해줘야합니다. 이를 어떻게 효율적으로 처리하는지 알아 보도록 하겠습니다.

 

이정도 개념을 숙지한다면, 세부 내용을 기억하지 못하게 되더라도, 클라우드 환경에서 시스템 디자인 하는데엔 무리가 없지 않을까 싶습니다. (이것도 많은거 같은데 이걸 언제 다 커버하지...)

하다못해 채용 면접에서 "~ 하는 시스템을 설계해보세요" 라고 했을때 아마추어 처럼 대뜸 "자바로 여기서 이렇게 이런 클래스 만들어서... 여기선 속도를 개선하기 위해 C로 구현하면..." 이런 바보 같은 소리는 하지 않을 수 있습니다. (자바나 C를 비하하는게 아닙니다..)