Meta는 14년 이상 가장 큰 데이터 센터 중 일부에서 하드웨어를 설계, 구축 및 배포해 왔습니다. 2009년, Facebook 엔지니어가 소프트웨어, 서버, 하드웨어, 냉각을 갖춘 에너지 효율적인 데이터 센터를 설계하는 여정을 시작하면서 급속한 성장에 따라 엔지니어는 데이터, 인력 및 리소스의 엄청난 내부 성장을 지원하기 위해 인프라를 재고해야 했습니다. , 그리고 힘. 그들은 이제 대량 저장을 위한 차기 표준으로 Grand Canyon Storage System을 OCP에 기여했습니다.
Meta는 14년 이상 가장 큰 데이터 센터 중 일부에서 하드웨어를 설계, 구축 및 배포해 왔습니다. 2009년, Facebook 엔지니어가 소프트웨어, 서버, 하드웨어, 냉각을 갖춘 에너지 효율적인 데이터 센터를 설계하는 여정을 시작하면서 급속한 성장에 따라 엔지니어는 데이터, 인력 및 리소스의 엄청난 내부 성장을 지원하기 위해 인프라를 재고해야 했습니다. , 그리고 힘. 그들은 이제 대량 저장을 위한 차기 표준으로 Grand Canyon Storage System을 OCP에 기여했습니다.
새로운 시설은 회사의 이전 시설보다 에너지 효율이 38% 더 높았고 운영 비용은 24% 저렴했습니다. Facebook은 성공을 글로벌 엔지니어링 커뮤니티와 공유하기로 결정했습니다. 그래서 2011년에 네트워킹 장비의 혁신 속도를 높이기 위해 OCP(Open Compute Project Foundation)가 시작되었습니다. 범용 서버, GPU 서버, 스토리지 장비, 랙 설계 등 모든 것이 OCP 협업 모델에서 나왔고 데이터 센터를 넘어 적용되어 통신 산업 및 에지 인프라를 발전시키는 데 도움이 됩니다.
따라서 Meta가 OCP Global Summit을 사용하여 최신 스토리지 서버와 Grand Canyon이라는 JBOD와 Barton Springs라는 새로운 단일 소켓 서버를 통해 참석자를 안내한 것은 적절했습니다. Grand Canyon의 설계는 더 좋고 더 빠른 스토리지 서버를 구축하려는 요구에서 비롯되었습니다.
새 서버의 동기는 다음과 같습니다.
- 슬롯당 더 높은 CPU 성능
- 고밀도 드라이브를 지원하도록 개선된 섀시(최대 2025~2026년 기간)
- 전력 효율
- 유연성 유지(ORv3, 모듈식 CPU 카드)
- 더 긴 수명의 부품으로 설계
Grand Canyon의 설계는 업그레이드 가능성과 새 섀시의 수명을 연장하기 위해 모듈성을 높였습니다.
구성 요소 | 상품 설명 |
CPU | 인텔 제온 "쿠퍼 레이크" SOC |
부팅 드라이브 | M.2 솔리드 스테이트(2280 폼 팩터 하이퍼스케일 NVMe 부팅 SSD 사양) |
DIMM | 최대 1MT/s의 4채널에서 채널당 4개의 DDR3200 DIMM |
PCH | 인텔 PCH 칩셋 |
새로운 스토리지 서버는 단일 서랍에서 36 x 3.5″ HDD를 지원하는 두 개의 스토리지 노드로 구성됩니다. Grand Canyon은 인상적인 사양의 Barton Springs 1소켓 서버를 사용합니다. 새로운 섀시에 추가적인 유연성이 통합되어 시스템을 세 가지 구성으로 구축할 수 있습니다.
첫 번째 구성 옵션은 더 빠른 데이터 액세스를 위해 모든 드라이브가 항상 켜져 있는 72개의 컴퓨팅 노드와 XNUMX개의 HDD를 포함하는 독립형 이중 스토리지 서버입니다.
두 번째 구성은 헤드 노드로도 사용할 수 있는 단일 컴퓨팅 노드가 있는 단일 스토리지 서버입니다. 이 구성은 컴퓨팅 노드가 없고 최대 216개의 HDD를 지원하는 세 번째 구성인 JBOD 섀시 중 두 개에 연결됩니다.
각 구성에는 위의 분해도에 나와 있는 것처럼 시스템의 모듈에 대해 서로 다른 모집단이 있습니다. 이 설계의 핵심 요소는 섀시 전면 또는 상단에서 모든 구성 요소에 얼마나 쉽게 접근할 수 있는지입니다.
그랜드 캐년 대 브라이스 캐년(이전 세대)
브라이스 캐년 | 그랜드 캐년 | |
Compute | 16 코어 | 26 코어 |
SpecIntRate | 1 | 1.87(터보 사용) |
DRAM 용량, CPU당 BW | 2GB DDR32 4개, 33GB/s | 4GB DDR16 4개, 93GB/s |
컴퓨팅당 부팅 SSD | 256 GB | 256 GB |
컴퓨팅당 데이터 SSD | 2x2TB m.2 | 2x2TB E1.S 9.5mm(업그레이드 가능한 용량 |
섀시당 드라이브, 컴퓨팅당 드라이브 | 72, 36 | 72, 36 |
NIC | 50Gbps, 단일 호스트, OCP2.0 | 50Gbps, 단일 호스트, OCP 3.0(100Gbps로 업그레이드 가능) |
Grand Canyon 저장 시스템 구조 설계 개선
이 섀시의 HDD 수와 팬의 진동 가능성을 고려하여 Meta는 구조적 및 음향적 진동 감쇠 기능을 사용하여 고밀도 HDD 용량 채택을 허용하고 팬 진동이 인클로저로 전달되는 것을 방지했습니다.
Meta 엔지니어는 대리자를 사용하여 진동을 측정하고 Grand Canyon 섀시 설계에 사용된 진동 완화의 이점을 비교하기 위해 하드 드라이브 공급업체에 연락했습니다.
팬이 꺼지면 닫히는 블라인드를 포함하도록 팬 시스템이 수정되어 시스템 전체의 공기 흐름 손실을 방지합니다. 이렇게 하면 팬이 손실되는 경우에도 섀시 전체에서 적절한 냉각이 보장됩니다.
Grand Canyon 시스템은 SAS Gen4 기능을 포함하고 SAS 및 SATA HDD와 상호 운용 가능하며 SAS/SATA HDD의 명령 기간 제한에 대한 하드웨어 및 펌웨어 호환성을 제공하는 Broadcom의 최신 IOC 및 확장기를 사용합니다. 듀얼 액추에이터 HDD.
지원 문서
Grand Canyon 특성화를 위해 구축된 Surrogate HDD에 대한 정보는 이 얘기를 참고.
Surrogate HDD, 개선 및 표준화에 대한 정보는 OCP HDD 역학 작업 흐름.
Meta가 관심을 갖는 기능에 대한 자세한 내용은 '다음을 위한 HDD 기능 향후 세션은 여기에 있습니다.
사양은 다음에서 볼 수 있습니다. GitHub 리포지토리(OpenBMC).
Grand Canyon 시스템은 제품 안내서에서 SV/ST7000G4라고 하는 Wiwynn에서 구입할 수 있습니다.
StorageReview에 참여
뉴스레터 | 유튜브 | 팟캐스트 iTunes/스포티 파이 | 인스타그램 | 트위터 | 틱톡 서비스 | RSS 피드