클라우드) 대규모 웹서비스 트래픽 처리 방법

먼저 대규모 웹서비스란 거대한 데이터를 처리해야 하는 서비스를 말한다. 웹서버를 둔 여러 대 기업들은 거대한 데이터를 처리해야 하는 방법을 항상 고민한다. 그 이유는 바로 고객에게 더 나 은 서비스를 제공하기위한 것이다.

대규모 웹서비스를 이용하는 고객들의 관점에서 보았을 때 어 떤 점이 중요한지 생각해보면 “지연 시간 단축”이다. 

 

대규모 웹서비스 기반 운영되는 회사들은 다양한 이벤트를 진행하고 실시간 스트리밍, 대용량 검 색, 동영상 리뷰 등 다양한 신규 이벤트를 보이고 있다. 이 회사들은 대형 트래픽을 감당하는 방 패를 만들어 내야 하는 고민을 항상 하고 있다. 여기서 생각해보면 대형 성능/용량 이슈가 일어나 는 상황은 바로 “새로운 이벤트”가 발생할 경우가 대부분 이다. 트래픽(인터넷 사용량)이 급증했다 가 다시 줄어드는 등 변동성이 심한 시기를 공략하여 문제해결 방법을 찾아야 한다.

 

여기서 11번가의 대표적인 “지연 시간 단축” 사례를 보자

위와 같은 기사를 보면 실제 11번가에서는 플랫폼을 작년 8월 아마존웹서비스(AWS) 기반의 자체 플랫폼으로 변경한 뒤 라이브방송 중 최고 거래액을 기록하는 등 폭발적으로 성장했다. 11번가의 라이브11의 서비스 화면의 지연 시간을 AWS IVS를 이용하여 초저지연 환경을 구축해 냈다. 이때 스트리밍 지연시간을 85% 까지 줄일 수 있기 때문에 이용자 입장에서는 지연 없는 스트리밍 방 송을 통해 만족감을 나타내 이것은 곧 거래액 상승으로 이루어 진 것이다. 라이브 스트리밍의 경 우 대부분 유저가 모바일 기반이라 일반적으로 10초 안팎의 지연(latency)이 발생한다"면서, "지연 속도를 줄이는 것은 라이브스트리밍 서비스를 원하는 고객들의 도전과제이고, 11번가가 초지연환 경을 3초 미만으로 줄이면서 안정적인 라이브 스트리밍이 가능하게 됐다.

이때 11번가의 핵심적인 요소는 AWS라는 클라우드를 도입한 것이다. 클라우드 시스템을 이용하 면 서버의 효율적인 트래픽 관리와 설계가 가능하다. 클라우드 컴퓨팅 이란 정보를 자신의 컴퓨 터가 아닌 인터넷에 연결된 다른 컴퓨터로 처리하는 기술이다. 인터넷을 사용하여 공유 자원을 사용 할 수 있으며, 사용자가 필요한만큼 사용하고 비용을 지불 하는 서비스 모델이다. 위와 같이 클라우드 사용은 주제에 대한 정답이 된다. 여기서 클라우드의 환경 전환을 위해 어떤 클라우드 를 써야 하나 생각해보면 분산서버 처리를 위한 기술을 찾아보면 된다.

크게 Auto Scaling과 로 드밸런싱을 고려해보면 된다.

 

Auto Scaling이란 사용자 정책에 따라서 시스템을 자동으로 늘리고 줄여주는 서비스이다.갑자기 트래픽이 폭주하였을 때 서버들의 CPU사용량이 점점 높아지고 사용자가 정의한 수치가 되었을 때 자동적으로 시스템을 확장하여 부하를 분산시켜주는 장치이다.

온프레미스나 클라우드 환경 모두에서 스케일업, 스케일아웃이 가능하다. 다만, 물리적 작업이 덜 요구되는 클라우드 환경이 위와 같이 시간을 앞다투는 상황에서 최선의 선택은 오토스케일링 이 라 여겨진다. 정리하자면, 오토스케일링을 사용하는 이유는 갑작스런 서버 과부하, 장애등에 대처 하기 위해 CPU사용률과 같은 리소스를 모니터링하다가 자동으로 서버를 증가 시켜줌으로써 적절 한 트래픽 분산을 위해 사용한다.

마지막으로 로드밸런싱을 고려해 보자 로드 밸런싱이란 말 그대로 서버가 처리해야 할 업무 혹은 요청(Load)을 여러 대의 서버로 나누어(Balancing) 처리하는 것을 의미한다. 한 대의 서버로 부하가 집중되지 않도록 트래픽을 관리해 각각의 서버가 최적의 퍼포먼스를 보일 수 있도록 하는 것이 목적이다.

로드밸런싱을 쓰지 않는다면 AWS라 생각해보면 각 EC2 인스턴스에 고정된 아이피를 부여 해야 한다. 문제는 하나의 인스턴스에 하나의 도메인만 연결할 수 밖에 없는데 서버에서 많은 사람들이 몰린다면 서버의 사양을 올리는 스케일업 서버의 개수를 늘리는 스케일아웃을 고려해야합니다. 스케일업 경우 인스턴스를 업데이트 하는 동안 서비스를 할 수 없다. 스케일아웃을 한다면 서버 가 늘어날때마다 도메인이 새로 필요하다.

흔히 L4장비라고 불리우는 로드 밸런싱은 분산서버 처리를 위한 뼈대를 이루는 장치라고 할 수 있겠다. 로드 밸런싱 장비에 IP가 부여가 되며, 이 로드밸런서에 연결되어 있는 N개의 장치 중 한 곳으로 라우팅 시킨다. 이 때 서버가 사용할 수 없는 상태인 서버를 회피하여 연결하게 되는데 이로 인해 이용할 수 없는 서버로 라우팅 되는 것을 방지해준다. AWS를 사용한다면 Elastic Load Balancer를 사용할 것이며 대부분의(모든) 클라우드 서비스 제공 업체가 로드밸런서를 지원하기 때문에 이를 기반으로 N개의 서버를 연결시키게 할 수 있다.

 

 

따라서 4차 산업혁명과 5G 시대의 필수적인 플랫폼으로 언제 어디서나 손쉽게 대량의 데이터를 저장 및 관리, 활용과 분석을 가능케 하는 클라우드 서비스는 미래의 초연결사회의 핵심 기반 기 술로 매우 중요하다고 생각한다. 향후 로드 밸런싱과, 오토스케일링등의 클라우드 서비스의 유통, 타 산업으로의 활용 및 적용분야 확장에 따라 서비스 다변화가 기대되며 우리나라의 세계 최고 수준의 ICT 기술을 활용하여 Amazon같이 국내 기업의 글로벌 클라우드 시장 진입 및 확대 추진 이 필수적이라고 생각한다.