Lenovo ThinkSystem SR685a V3 및 SR680a V3 GPU 서버는 다양한 기업 AI 요구 사항을 충족하도록 맞춤화된 회사의 최신 8방향 GPU 서버입니다.
Lenovo ThinkSystem SR685a V3 및 SR680a V3 GPU 서버는 다양한 기업 AI 요구 사항을 충족하도록 맞춤화된 회사의 최신 8방향 GPU 서버입니다. 서로 다른 모델 이름이 있음에도 불구하고 모듈식 기반을 공유하므로 각 시스템 내에서 구성 요소를 상호 교환할 수 있습니다.
기본적으로 이러한 서버에는 계산 방식에 따라 2개 또는 6개의 핵심 구성 요소가 있습니다. 첫째, 외부 케이싱은 후면에 팬이 내장된 섀시 쉘을 구성합니다. 2U 모듈식 서버를 위쪽으로 고정하는 내부 레일이 있습니다. 하단 3U에는 GPU, 스위치 및 PCIe 패브릭이 들어 있습니다. XNUMXU 서버에는 AMD 또는 Intel 제품에 따라 달라지는 I/O가 있습니다. Lenovo는 현재 NVIDIA 및 AMD GPU 보드를 지원하며 향후 Intel Guadi XNUMX도 지원됩니다.
Lenovo SR685a V3(AI용 리틀 a)는 듀얼 4세대 AMD EPYC 프로세서를 사용하고 특히 고대역폭 GPU-GPU 통신에 최적화되어 생성적 AI 애플리케이션에 이상적입니다. 반대로, 680세대 Intel Xeon Scalable 프로세서가 장착된 SR3a V5는 다양한 산업 요구에 맞는 NVIDIA 및 AMD GPU를 수용하여 다양한 AI 및 컴퓨팅 애플리케이션을 지원합니다. 두 모델 모두 모듈성에 대한 혁신적인 접근 방식을 채택하여 사용자가 특정 운영 요구 사항에 정확하게 맞춰 시스템을 맞춤화하고 확장할 수 있습니다.
이 서버는 높은 인기를 얻었으며(현재로서는 구하기가 매우 어렵습니다) 작년 오스틴에서 열린 Lenovo 컨퍼런스에서 상당한 화제를 불러일으켰습니다. 이러한 GPU 서버와 AI 기능을 발전시킬 수 있는 잠재력을 둘러싼 큰 기대가 있습니다.
구성 가능한 모델 및 사용자 정의
Lenovo ThinkSystem SR685a V3 및 SR680a V3 시스템은 맞춤화를 위한 프레임워크 역할을 하는 다양한 CTO(주문 후 구성) 모델로 제공됩니다. 구성 모델을 사용자 정의하는 기능을 사용하면 선택한 특정 GPU를 기반으로 모델이 정의되는 GPU의 세부 선택까지 확장됩니다. 예를 들어, Lenovo 구성기에 나열된 기본 기능 코드를 사용하면 AMD MI300X와 NVIDIA H100/H200 중에서 선택할 수 있으며, 각각은 서로 다른 성능 및 컴퓨팅 요구 사항을 충족합니다. 플랫폼 설계는 Lenovo가 시장에 출시되는 새로운 가속기를 통합하는 데 더 큰 유연성을 제공합니다.
레노버 ThinkSystem SR685a V3 사양
| 구성 요소들 | 스펙 |
| 폼 팩터 | 8U 랙 |
| 프로세서 | 9004개의 AMD EPYC 64 시리즈 프로세서(이전 코드명 "Genoa"). 최대 3.1개 코어의 프로세서, 최대 400GHz의 코어 속도, 최대 5.0W의 TDP 등급을 지원합니다. 고성능 I/O를 위해 PCIe XNUMX을 지원합니다. |
| GPU | 선택 사항 :
|
| 메모리 | 프로세서 24개가 포함된 DIMM 슬롯 12개(프로세서당 DIMM 슬롯 12개) 각 프로세서에는 1개의 메모리 채널이 있으며 채널당 5개의 DIMM(DPC)이 있습니다. Lenovo TruDDR4800 RDIMM은 최대 XNUMXMHz까지 지원됩니다. |
| 최대 메모리 | 1.5x 24GB RDIMM으로 최대 64TB 2.25x 24GB RDIMM으로 최대 96TB |
| 메모리 보호 | ECC, SDDC, 순찰/요구 스크러빙, 제한된 오류, DRAM 주소 명령 패리티(재생 포함), DRAM 수정되지 않은 ECC 오류 재시도, 온다이 ECC, ECC 오류 검사 및 스크럽(ECS), 사후 패키지 수리 |
| 디스크 드라이브 베이 | PCIe 16 NVMe 드라이브를 지원하는 최대 2.5개의 5.0인치 핫스왑 드라이브 베이. |
| OS 부팅 드라이브 | RAID-2이 통합된 M.1 어댑터 지원; OS 부팅 및 데이터 저장 기능을 위한 2x NVMe M.2 드라이브 지원 |
| 최대 내부 스토리지 | 51.2개의 16TB 3.2인치 NVMe SSD를 사용하는 2.5TB |
| 스토리지 컨트롤러 | 온보드 NVMe(비 RAID) |
| 네트워크 인터페이스 | GPU Direct 지원을 통해 최대 8Gb/s 연결의 400x 고성능 네트워크 어댑터를 지원합니다. 사용자/제어 플레인을 위한 NVIDIA BlueField-3 2포트 200Gb 어댑터와 관리를 위한 OCP 네트워크 어댑터 선택을 지원합니다. OCP 3.0 슬롯에는 PCIe 5.0 x16 호스트 인터페이스가 있으며, 하나의 포트는 Wake-on-LAN 및 NC-SI 지원을 위해 XCC2(XClarity Controller 2) 관리 프로세서와 선택적으로 공유됩니다. |
| PCI 확장 슬롯 | 10x PCIe 5.0 x16 슬롯:
|
| 포트 | 전면: USB 1 G3.2(1Gb/s) 포트 5개, USB 1 포트 2.0개(XCC 로컬 관리용이기도 함), VGA 비디오 포트 1개. 후면: USB 3 G3.2(1Gb/s) 포트 5개, VGA 비디오 포트 1개, XCC 원격 관리용 RJ-1 45GbE 시스템 관리 포트 1개. |
| 냉각 | CPU 및 스토리지 하위 시스템용 전면 장착 듀얼 로터 팬 5개, N+1 중복. GPU 하위 시스템용 후면 장착 듀얼 로터 팬 10개, N+1 중복. 각 전원 공급 장치에는 팬 XNUMX개가 통합되어 있습니다. 전면에서 후면으로의 공기 흐름. |
| 전원 공급 장치 | 최대 N+N 중복성을 갖춘 80개의 핫스왑 중복 AC 전원 공급 장치. 2600 PLUS 티타늄 인증입니다. 220V AC 공급 장치가 필요한 XNUMXW AC 전원 공급 장치. |
| Video | 16MB 메모리와 2D 하드웨어 가속기를 갖춘 내장형 비디오 그래픽이 XClarity Controller에 통합되어 있습니다. 두 개의 비디오 포트(전면 VGA 및 후면 VGA)는 동시에 사용할 수 없습니다. 전면 VGA 포트를 사용하면 후면 VGA 포트가 비활성화됩니다. 최대 해상도는 1920Hz에서 1200×32 60bpp입니다. |
| 핫 스왑 부품 | 드라이브, 전원 공급 장치 및 팬. |
| 시스템 관리 | 상태 LED 및 풀아웃 LCD 디스플레이가 포함된 통합 진단 패널. ASPEED AST2 BMC(베이스보드 관리 컨트롤러)를 기반으로 하는 XCC2(XClarity Controller 2600) 내장형 관리입니다. 관리를 위한 XCC2 원격 액세스를 위한 전용 후면 이더넷 포트입니다. 중앙 집중식 인프라 관리, XClarity Integrator 플러그인 및 XClarity Energy Manager 중앙 집중식 서버 전원 관리를 위한 XClarity Administrator. 옵션인 XCC Platinum을 사용하면 원격 제어 기능 및 기타 기능을 사용할 수 있습니다. |
| 보안 기능 | 시동 암호, 관리자 암호, TPM 2.0을 지원하는 Root of Trust 모듈 및 PFR(플랫폼 펌웨어 복원력). |
| 지원되는 운영 체제 | 우분투 서버. |
| 제한적 보증 | 9년 또는 5년(모델에 따라 다름) 고객 교체 가능 장치 및 XNUMX×XNUMX 다음 영업일(NBD)의 현장 제한 보증. |
| 서비스 및 지원 | 옵션 서비스 업그레이드는 Lenovo 서비스를 통해 제공됩니다: 4시간 또는 2시간 응답 시간, 6시간 수리 시간, 1년 또는 2년 보증 연장, Lenovo 하드웨어에 대한 소프트웨어 지원 및 일부 타사 응용 프로그램. |
| 크기 | 너비: 447mm(17.6인치), 높이: 351mm(13.8인치), 깊이: 924mm(36.3인치). |
| 무게 | 최대: 108.9kg(240파운드) |
레노버 ThinkSystem SR680a V3 사양
| 구성 요소들 | 스펙 |
| 폼 팩터 | 8U 랙 |
| 프로세서 | 5세대 Intel Xeon Scalable 프로세서 48개(이전 코드명 "Emerald Rapids"). 2.3개 코어, 350GHz 코어 속도, 5.0W TDP 등급을 갖춘 프로세서를 지원합니다. 고성능 I/O를 위해 PCIe XNUMX을 지원합니다. |
| 칩셋 | Intel C741 "Emmitsburg" 칩셋, 코드명 "Eagle Stream" 플랫폼의 일부 |
| GPU | 선택 사항 :
|
| 메모리 | 32개의 프로세서가 포함된 16개의 DIMM 슬롯(프로세서당 8개의 DIMM 슬롯). 각 프로세서에는 2개의 메모리 채널이 있으며 채널당 5개의 DIMM(DPC)이 있습니다. Lenovo TruDDR5600 RDIMM이 지원됩니다. DIMM은 1 DPC에서 최대 4400MHz, 2 DPC에서 최대 XNUMXMHz에서 작동합니다. |
| 최대 메모리 | 2x 32GB RDIMM으로 최대 64TB |
| 메모리 보호 | ECC, SDDC(x4 기반 메모리 DIMM용), ADDDC(4×9 RDIMM을 제외한 x4 기반 메모리 DIMM용, Platinum 또는 Gold 프로세서 필요) 및 메모리 미러링. |
| 디스크 드라이브 베이 | PCIe 16 NVMe 드라이브를 지원하는 최대 2.5개의 5.0인치 핫스왑 드라이브 베이. |
| OS 부팅 드라이브 | OS 부팅 및 데이터 저장 기능을 위한 Intel VROC NVMe RAID 지원 옵션으로 M.2 드라이브 XNUMX개 지원 |
| 최대 내부 스토리지 | 51.2개의 16TB 3.2인치 NVMe SSD를 사용하는 2.5TB |
| 스토리지 컨트롤러 | 온보드 NVMe(비 RAID) |
| 네트워크 인터페이스 | GPU Direct 지원을 통해 최대 8Gb/s 연결의 400x 고성능 네트워크 어댑터를 지원합니다. 사용자/제어 플레인용 NVIDIA BlueField-3 2포트 200Gb 어댑터와 관리용 Mellanox ConnectX-6 Lx 2포트 10/25GbE 어댑터를 지원합니다. |
| PCI 확장 슬롯 | 10x PCIe 5.0 x16 슬롯:
|
| 포트 | 전면: USB 1 G3.2(1Gb/s) 포트 5개, USB 1 포트 2.0개(XCC 로컬 관리용이기도 함), Mini DisplayPort 비디오 포트 1개. 후면: USB 2 G3.2(1Gb/s) 포트 5개, VGA 비디오 포트 1개, XCC 원격 관리용 RJ-1 45GbE 시스템 관리 포트 1개. |
| 냉각 | CPU 및 스토리지 하위 시스템용 전면 장착 듀얼 로터 팬 5개, N+1 중복. GPU 하위 시스템용 후면 장착 듀얼 로터 팬 10개, N+1 중복. 각 전원 공급 장치에는 팬 XNUMX개가 통합되어 있습니다. 전면에서 후면으로의 공기 흐름. |
| 전원 공급 장치 | 최대 N+N 중복성을 갖춘 80개의 핫스왑 중복 AC 전원 공급 장치. 2600 PLUS 티타늄 인증입니다. 220V AC 공급 장치가 필요한 XNUMXW AC 전원 공급 장치. |
| Video | 16MB 메모리가 포함된 내장형 그래픽과 2D 하드웨어 가속기가 XClarity Controller 2 관리 컨트롤러에 통합되어 있습니다. 비디오 포트 1920개(전면 Mini DisplayPort 및 후면 VGA) 원하는 경우 둘 다 동시에 사용할 수 있습니다. 두 포트의 최대 해상도는 1200Hz에서 60×XNUMX입니다. |
| 핫 스왑 부품 | 드라이브, 전원 공급 장치 및 팬. |
| 시스템 관리 | 상태 LED 및 풀아웃 LCD 디스플레이가 포함된 통합 진단 패널. ASPEED AST2 BMC(베이스보드 관리 컨트롤러)를 기반으로 하는 XCC2(XClarity Controller 2600) 내장형 관리입니다. 관리를 위한 XCC2 원격 액세스를 위한 전용 후면 이더넷 포트입니다. 중앙 집중식 인프라 관리, XClarity Integrator 플러그인 및 XClarity Energy Manager 중앙 집중식 서버 전원 관리를 위한 XClarity Administrator. 옵션 XCC Platinum을 사용하면 원격 제어 기능 및 기타 기능을 사용할 수 있습니다. |
| 보안 기능 | 시동 암호, 관리자 암호, TPM 2.0을 지원하는 Root of Trust 모듈 및 PFR(플랫폼 펌웨어 복원력). |
| 지원되는 운영 체제 | 우분투 서버. |
| 제한적 보증 | 9년 또는 5년(모델에 따라 다름) 고객 교체 가능 장치 및 XNUMX×XNUMX 다음 영업일(NBD)의 현장 제한 보증. |
| 서비스 및 지원 | 옵션 서비스 업그레이드는 Lenovo 서비스를 통해 제공됩니다: 4시간 또는 2시간 응답 시간, 6시간 수리 시간, 1년 또는 2년 보증 연장, Lenovo 하드웨어에 대한 소프트웨어 지원 및 일부 타사 응용 프로그램. |
| 크기 | 너비: 447mm(17.6인치), 높이: 351mm(13.8인치), 깊이: 924mm(36.3인치). |
| 무게 | 최대: 108.7kg(239.8파운드) |
Lenovo ThinkSystem SR685a V3 및 SR680a V3 설계 및 구축
시스템 전면은 최대 16개의 핫스왑 PCIe Gen5 NVMe 드라이브 베이를 지원합니다. 이는 일반적으로 확장을 위해 더 적은 수의 베이와 레인을 제공하는 GPU 중심 서버에 비해 매우 넉넉한 용량입니다. 드라이브 베이 아래에는 전면에서 액세스할 수 있는 5개의 PCIe Gen400 FHHL(전체 높이, 절반 길이) 슬롯과 PCIe 스위칭 컴플렉스가 있습니다. 이 슬롯에는 GPU Direct 기술(XNUMX개의 NDR XNUMXGb/s InfiniBand 어댑터)이 탑재되어 있어 고속 네트워킹 및 데이터 전송을 통해 대기 시간을 줄이고 데이터 처리 속도를 높일 수 있습니다.
시스템의 섀시 상단에는 CPU, 메모리, 후면 슬롯을 포함하여 상위 2U를 차지하는 서버 냉각을 위해 설계된 XNUMX개의 핫 스왑 가능 팬이 있습니다. 드라이브 베이, 어댑터 및 GPU를 냉각하기 위해 섀시 후면에 추가로 XNUMX개의 팬이 장착되어 있습니다.
또한 전면 패널에는 USB 3.2 Gen1 포트 XNUMX개와 비디오 출력 XNUMX개를 포함한 필수 연결 및 관리 포트가 있어 직접 관리 및 로컬 콘솔 상호 작용이 용이합니다.
후면도 2U 서버 확장 기능을 포함해 똑같이 잘 갖춰져 있습니다. AMD 변형은 PCIe Gen5 x16 인터페이스가 장착된 OCP 3.0 슬롯과 함께 하나의 PCIe Gen5 x16 FHHL 슬롯을 제공합니다. 반대로 Intel 모델에는 5개의 PCIe Gen16 x3.0 FHHL 슬롯이 있습니다. OCP 3 슬롯은 개방형 표준을 준수하는 다양한 어댑터 카드를 수용하여 네트워킹 및 가속 옵션의 다양성을 제공합니다. NVIDIA BlueField-XNUMX DPU 어댑터를 설치하면 소프트웨어 정의, 하드웨어 가속 IT 인프라를 활성화하고 네트워킹 및 보안과 같은 다양한 IT 운영을 최적화할 수 있습니다.
GPU 장치 후면에는 2,600개의 2W 전원 공급 장치가 있으며, 각각은 중앙 배전반에 연결됩니다. 이 설정에는 보드 뒷면에 커넥터(Lenovo에서는 '블라인드 메이트'라고 함)가 포함되어 있어 XNUMXU 컴퓨팅 셔틀에 원활하게 연결할 수 있습니다.
또한 위에서 언급한 것처럼 후면에는 GPU, 스위치 및 PCIe 패브릭 전체에서 최적의 열 조건을 유지하도록 설계된 10개의 핫스왑 후면 팬을 포함하여 서버의 광범위한 냉각 시스템이 표시됩니다. 이 냉각 시스템은 특히 지속적인 고부하 작업 중에 하드웨어 성능 안정성과 수명을 유지하는 데 중요합니다.
전원, 케이블 연결 및 스위칭
이 서버 제품군의 AMD 및 Intel 버전은 공통 전원 레이아웃을 공유하므로 이러한 시스템의 주요 특징인 더 큰 모듈성을 허용합니다.
PCIe 신호는 컴퓨팅 슬레드를 PCIe 스위칭 슬레드에 연결하는 리본 케이블을 통해 흐릅니다. 컴퓨팅 슬레드의 반대편에는 블라인드 연결이 있습니다. 컴퓨팅 슬레드는 이러한 커넥터와 짝을 이루어 PCIe 신호를 나머지 섀시에 전달합니다. 슬레드 뒷면의 브래킷(지정된 PCIe 연결 레이블이 지정됨)을 사용하면 서버 바닥을 변경하지 않고도 컴퓨팅 셔틀 간에 전환할 수 있습니다.
PCIe 스위칭 보드에는 PCIe 슬롯으로 둘러싸인 4개의 Broadcom 스위치가 포함되어 있어 서버를 고속 네트워킹 패브릭에 연결할 수 있습니다. 또한 마더보드에 연결되는 MCIO 케이블 커넥터가 8개 있습니다. 상단에 있는 더 작은 PCIe 커넥터는 전면 장착 NVMe SSD용 드라이브 백플레인용으로 지정됩니다.
메모리 및 내부 저장소
AMD 컴퓨팅은 최대 24개의 DDR5 메모리 DIMM을 지원하며 각 프로세서는 12개의 메모리 채널을 통해 12개의 DIMM과 인터페이스하여 채널 구성당 하나의 DIMM을 허용합니다. 이러한 DIMM은 4800MHz의 속도로 작동하여 전체 메모리 처리량과 효율성을 향상시킵니다. 구성에 따라 서버는 1.5x 24GB RDIMM을 사용하여 64TB의 시스템 메모리를 지원하거나 2.25x 24GB RDIMM을 사용하여 96TB를 지원할 수 있어 가장 메모리를 많이 요구하는 작업에도 충분한 용량을 제공합니다.
Intel 컴퓨팅(SR680a V3)은 최대 5MHz 속도로 작동하는 Lenovo TruDDR5600 메모리를 활용합니다. 또한 32개의 프로세서에 걸쳐 최대 8개의 DIMM으로 AMD보다 더 높은 용량을 지원하며, 2개의 메모리 채널을 활용하여 채널당 2개의 DIMM(DPC)을 지원합니다. 메모리 구성에 따라 서버는 32x 64GB RDIMM을 사용하여 최대 XNUMXTB의 시스템 메모리를 지원할 수 있습니다.
DIMM의 작동 속도는 채널당 DIMM 수에 따라 다릅니다. 채널당 1개의 DIMM을 사용하면 메모리는 최대 5600MHz의 속도에 도달할 수 있는 반면, 채널당 2개의 DIMM을 사용하는 구성은 최대 4400MHz에서 작동합니다. 이러한 유연한 속도 조정은 특정 메모리 로드 및 구성에 따라 성능을 최적화하는 데 도움이 됩니다.
또한 이 서버는 RAID 기능이 통합된 M.2 어댑터에 M.2 NVMe 드라이브 XNUMX개를 수용하므로 운영 체제 부팅 프로세스와 빠른 데이터 액세스에 이상적입니다.
AMD 및 NVIDIA GPU 보드
NVIDIA H100/H200 보드는 3개의 NVIDIA GPU로 촘촘하게 포장되어 있으며 접이식 손잡이가 있어 보드를 더 쉽게 운반하고 설치할 수 있습니다. 설치가 완료되면 핸들이 GPU 옆에 깔끔하게 고정되어 방해가 되지 않습니다. AMD와 NVIDIA 보드 사이의 커넥터는 동일합니다. Intel Gaudi XNUMX 보드에는 다른 커넥터가 있습니다.
AMD MI300 보드는 NVIDIA 보드와 유사하지만 표준 핸들이 상당히 돌출되어 있습니다. 여전히 유용하기는 하지만 NVIDIA 보드의 접이식 핸들만큼 우아하지는 않습니다. 고객은 어느 쪽이든 신경 쓰지 않을 것이기 때문에 디자인의 차이가 우리의 관심을 끌었기 때문에 각주를 추가했습니다.
최종 생각
Lenovo ThinkSystem SR685a V3 및 SR680a V3 GPU 서버는 강력한 NVIDIA H100/H200 및 AMD MI300X GPU는 물론 AMD EPYC 9004 및 5를 모두 지원하는 인상적인 모듈성을 제공합니다.th Gen Xeon Intel CPU. 이러한 유연성과 공냉식 설계를 통해 기존 생태계에 쉽게 통합할 수 있습니다. 또한 이 서버는 일반 GPU 서버(16개의 핫스왑 PCIe Gen5 NVMe 드라이브 베이를 통해)보다 더 많은 스토리지를 지원하여 데이터 집약적인 작업에 대한 유틸리티를 향상시킵니다. 또한 관리용 Lenovo의 XClarity를 포함하면 운영 및 모니터링이 간소화되어 복잡한 인프라 관리가 더욱 단순화됩니다.
성능 테스트를 수행하지 않았음에도 불구하고 이 서버의 디자인은 놀랍습니다. 모듈식 아키텍처를 통해 Lenovo는 오늘날 고객에게 Intel 또는 AMD 컴퓨터 서버와 함께 AMD 및 NVIDIA GPU를 쉽게 제공할 수 있습니다. Intel Guadi 3 및 NVIDIA B200과 같은 더 많은 GPU 지원을 통해 Lenovo는 고객이 컴퓨팅 및 GPU 구성 요소를 혼합하여 일치시켜 특정 응용 프로그램에 맞게 서버를 조정할 수 있도록 할 수 있습니다.
전반적으로 이 서버들은 매우 세심하게 고안되었으며 우리는 이들 서버를 직접 사용해 볼 수 있기를 기대합니다. 조던은 기대에 차서 걱정스럽게 수염을 쓰다듬고 있었습니다. 우리는 현재 675개의 NVIDIA L3S GPU를 갖춘 Lenovo SR40 v8 프로젝트를 진행하고 있지만 이러한 XNUMX방향 서버는 다른 동물이며 광범위한 AI 사용 사례를 가지고 있습니다. 하지만 이는 Lenovo가 모든 사람을 위한 AI 플랫폼을 제공한다는 점을 상기시켜 주는 좋은 사례입니다.
StorageReview에 참여
뉴스레터 | 유튜브 | 팟캐스트 iTunes/스포티 파이 | 인스타그램 | 트위터 | 틱톡 서비스 | RSS 피드
