LayoutBench: Performance Benchmarking of Cloud Storage Layouts for Multimedia Data

하늘 위에 거대한 디지털 도서관이 있다고 상상해 보세요. 이곳은 컴퓨터가 학습할 수 있도록 수백만 개의 사진, 노래, 비디오가 저장되는 곳입니다. 이것이 바로 "클라우드 스토리지(cloud storage)"의 세계이며, 여러분의 컴퓨터에서 멀리 떨어진 곳에 있는 서버들에 데이터가 살고 있는 거대한 창고입니다. 하지만 여기서 까다로운 점이 있습니다. 책이 선반 위에 있다고 해서 그것을 빨리 꺼낼 수 있다는 뜻은 아닙니다. 책이 어떻게 배열되어 있는지—낱개로 흩어져 있는지, 깔끔한 상자에 담겨 있는지, 아니면 하나의 거대한 책으로 합쳐져 있는지—에 따라 모든 것이 달라집니다. 만약 배열이 엉망이라면, 여러분의 컴퓨터는 사서에게 왔다 갔다 하는 데 시간을 허비하며 매번 시간과 돈을 낭비하게 될 것입니다. 이것이 바로 "스토리지 레이아웃(storage layout)"의 문제입니다. 즉, 컴퓨터가 업무를 수행하는 데 필요한 정보를 얼마나 빠르고 저렴하게 검색할 수 있는지를 결정하는 데이터의 물리적 구성 방식입니다.

머신러닝의 세계에서 컴퓨터는 마치 큰 시험을 준비하며 공부하려는 배고픈 학생과 같습니다. 그들은 고양이나 자동차가 어떻게 생겼는지 배우기 위해 수백만 장의 이미지를 먹어 치워야 합니다. 하지만 음식(데이터)이 삼키기 어려운 방식으로 제공된다면, 학생은 지치게 되고, 시험은 영원히 끝나지 않을 것이며, 식당 계산서(클래우드 비용)는 치솟을 것입니다. 지금까지 전문가들은 서로 다른 종류의 도서관을 위한 규칙에 의존하여 이 디지털 책들을 쌓는 최적의 방법을 추측해야만 했습니다. 이 논문인 LayoutBench는 이 논쟁을 종결시키기 위해 등장했습니다. 이 연구는 세 가지 다른 멀티미디어 데이터 조직 방식을 테스트하기 위해 거대한 경주 트랙을 설정하고, 그것들이 얼마나 빠른지, 얼마나 많은 데이터를 이동시키는지, 그리고 비용이 얼마나 드는지 정확하게 측정합니다. 목표는 단순합니다. 컴퓨터가 지갑에 구멍을 내지 않으면서도 가장 빠르게 학습할 수 있는 스토리지 전략을 찾는 것입니다.

세 명의 도전자: 흩어진 방식, 상자에 담긴 방식, 그리고 붙여진 방식

경주를 이해하기 위해 먼저 연구자들이 테스트에 투입한 세 명의 주자, 즉 "레이아웃"을 만나보겠습니다. 연구진은 백만 개 이상의 이미지가 포함된 ImageNet이라는 거대한 데이터셋을 사용했으며, 컴퓨터에게 특정 규칙(예: "모든 얼룩말 사진을 찾아라" 또는 "500KB보다 작은 사진을 찾아라")에 따라 특정 사진을 찾도록 요청했습니다.

1. 레이아웃 1 (L1): "하나씩" 흩어진 방식 (The "One-by-One" Scattered Approach).
   모든 책이 각각 아주 작은 별도의 선반에 놓여 있는 도서관을 상상해 보세요. 10권의 책을 찾으려면 도서관까지 걸어가서 첫 번째 책을 요청하고, 그것을 건네받을 때까지 기다렸다가, 다시 걸어와서 두 번째 책을 요청하는 과정을 반복해야 합니다. 클라우드에서 이는 모든 이미지가 각각의 개별 파일임을 의미합니다. 컴퓨터는 매 이미지마다 별도의 요청을 보내야 합니다. 단순하지만, 컴퓨터가 매번 "안녕하세요, 이 파일 좀 주세요"라고 말하고 그 "안녕하세요"라는 대답이 돌아오기를 기다리는 데 많은 시간을 쓰기 때문에 느립니다.

2. 레이아웃 2 (L2): "타르 아카이브" 상자에 담긴 방식 (The "Tar Archive" Boxed Approach).
   이제 사서가 100권의 책을 하나의 판지 상자에 담았다고 상상해 보세요. 책을 얻으려면 상자를 요청하고, 사서는 상자 전체를 건네주지만 여러분은 필요한 특정 페이지들만 가져갑니다. 클라우드에서 이는 많은 이미지를 하나의 커다란 파일(이를 "tar" 아카이브라고 부릅니다)로 묶는 것을 의미합니다. 컴퓨터가 이미지를 원할 때, 파일의 특정 조각을 요청합니다. 컴퓨터가 상자와의 연결을 계속 유지할 수 있기 때문에, 매번 "안녕하세요"라고 말할 필요 없이 여러 조각을 빠르게 가져올 수 있습니다.

3. 레이아웃 3 (L3): "컬럼형" 붙여진 방식 (The "Columnar" Glued Approach).
   이것은 가장 복잡한 방법입니다. 모든 책이 녹아내려 모든 책의 모든 페이지가 특정 순서로 붙어 있는 거대하고 단단한 플라스틱 블록으로 재형성되었다고 상상해 보세요. 페이지를 찾으려면 책을 찾는 것이 아니라, 초지능 로봇(데이터베이스 엔진)에게 이 거대한 블록을 가로질러 잘라달라고 요청해야 합니다. 로봇은 정보가 어디에 있는지 정확히 알고 있으며 한 덩어리를 잘라냅니다. 하지만 페이지들이 서로 붙어 있기 때문에, 로봇은 몇 페이지를 얻기 위해 원하지 않는 엄청난 양의 무게를 함께 끌고 와야 할 때가 많습니다.

경주 결과: 속도, 데이터, 그리고 가격표

연구진은 다양한 크기의 컴퓨터(빠른 것부터 메모리가 많은 것까지)를 사용하여 이 세 가지 레이아웃에 대해 11가지 유형의 검색을 실행했습니다. 결과는 다음과 같으며, 다소 놀랍습니다.

속도 대결
매우 작은 요청(예: 단 한두 개의 이미지를 찾는 경우)에 대해서는 **상자에 담긴 방식(L2)**이 가장 빨랐습니다. L2는 매 파일마다 클라우드 서버에 "안녕하세요"라고 말하며 시간을 낭비할 필요가 없었기 때문에 **흩어진 방식(L1)**을 이겼습니다. 마치 줄을 서서 기다릴 필요가 없는 단골 고객처럼 연결을 재사용했습니다.

하지만 요청이 커짐에 따라, 상자들이 관리하기에 너무 무거워졌기 때문에 **흩어진 방식(L1)**이 한동안 승기를 잡기 시작했습니다. 그러나 거대한 요청(수십만 개의 이미지를 찾는 경우)에 이르자, **붙여진 방식(L3)**이 왕좌를 차지했습니다. 초지능 로봇은 컴퓨터에 충분한 메모리가 있다면 거대한 데이터 블록을 믿을 수 없을 정도로 빠르게 잘라낼 수 있었습니다.

데이터의 무게
여기서 **붙여진 방식(L3)**은 문제에 봉착합니다. L3는 데이터 블록의 거대한 덩어리를 함께 잘라내기 때문에, 필요 이상의 훨씬 더 많은 정보를 끌고 오는 경우가 많습니다. 논문에 따르면 작은 검색의 경우, L3는 단 하나의 이미지를 얻기 위해 약 57 MB의 데이터를 전송한 반면, 다른 방식들은 1 MB 미만을 전송했습니다. 큰 검색에서도 L3는 다른 방식들보다 3~4배 더 많은 데이터를 이동시켰습니다. 이는 마치 피자 한 조가 먹고 싶어서 주문했는데, 배달원이 피자 한 판 전체와 소스, 치즈, 그리고 여분의 크러스트까지 통째로 가져오는 것과 같습니다.

사업을 위한 비용
가장 충격적인 발견은 돈에 관한 것이었습니다. 클라우드에서는 두 가지 비용을 지불합니다: 컴퓨터가 작동하는 시간과 다운로드하는 데이터의 양입니다. 연구진은 데이터 전송 비용이 전체 청구 금액의 98% 이상을 차지한다는 것을 발견했습니다. 컴퓨터 대여 비용은 거의 무시할 수 있는 수준이었습니다.

**붙여된 방식(L3)**은 너무 많은 추가 데이터를 이동시켰기 때문에, **상자에 담긴 방식(L2)**보다 11.5배 더 많은 비용이 들었습니다. 실제로 표준적인 쿼리 세트에 대해 L2는 약 $0.80**이 들었지만, L3는 **$9.20 이상이 들었습니다. 흩어진 방식(L1) 또한 저렴했지만, 큰 작업에는 L2보다 약간 느렸습니다.

최종 판결

이 논문은 모든 상황에 적용되는 단 하나의 "완벽한" 레이아웃은 없지만, 대부분의 이미지 기반 작업에 대한 명확한 승자가 있다고 결론짓습니다.

• **상자에 담긴 방식 (L2)**이 최적의 지점입니다. 이는 속도와 비용 사이에서 최고의 균형을 제공합니다. 대부분의 작업에 충분히 빠르며 데이터 전송량을 낮게 유지하여 막대한 돈을 아껴줍니다.
• **흩어진 방식 (L1)**은 아주 작은 작업에는 괜찮지만, 규모가 커질수록 느려지고 비효효율적이 됩니다.
• **붙여진 방식 (L3)**은 양날의 검입니다. 매우 거대하고 복잡한 검색에는 믿을 수 없을 정도로 빠르지만, 많은 컴퓨터 메모리를 요구하며 끌고 오는 추가 데이터에 대해 비싼 값을 치러야 합니다. 속도가 비용보다 더 중요한 아주 무거운 작업을 수행할 때만 가치가 있습니다.

저자들은 클라우드에서 이미지를 다루는 대부분의 사람들에게 **상자에 담긴 방식 (L2)**을 고수하는 것이 가장 현명한 선택이라고 제안합니다. 이는 마치 점심을 깔끔한 밀폐 용기에 담는 것과 같습니다. 꺼내기 쉽고, 공간을 낭비하지 않으며, 샌드위치 하나를 먹기 위해 주방 전체 값을 지불하는 일도 겪지 않게 해줍니다. 이 연구는 또한 이러한 결과가 이미지에 특화된 것임을 언급했습니다. 만약 거대한 비디오 파일을 다룬다면 규칙이 바뀔 수도 있겠지만, 현재로서는 상자가 경주에서 승리했습니다.