엔터프라이즈 AI의 고위험 분야에서 기술 거인들은 하드웨어의 다음 중요한 혁신을 공개하기 위해 끊임없는 경쟁을 벌이고 있습니다. Dell Technologies는 최근 Generative AI용 Dell PowerEdge XE9680을 출시했으며 최근 백서에서 유연하게. AI 워크로드를 처리하도록 명시적으로 설계된 PowerEdge XE9680은 경쟁의 새로운 진입자일 뿐만 아니라 잠재적인 선두주자입니다.
엔터프라이즈 AI의 고위험 분야에서 기술 거인들은 하드웨어의 다음 중요한 혁신을 공개하기 위해 끊임없는 경쟁을 벌이고 있습니다. Dell Technologies는 최근 Generative AI용 Dell PowerEdge XE9680을 출시했으며 최근 백서에서 유연하게. AI 워크로드를 처리하도록 명시적으로 설계된 PowerEdge XE9680은 경쟁의 새로운 진입자일 뿐만 아니라 잠재적인 선두주자입니다.
백서를 자세히 살펴보며 이 강력한 제품이 AI 환경을 어떻게 재정의하는지, 그리고 이것이 AI 프론티어를 정복하기 위한 비즈니스의 비밀 무기가 될 수 있는 이유를 살펴보았습니다.
제너레이티브 AI용 Dell PowerEdge XE9680
The 델 파워에지 XE9680 인공 지능 분야를 대상으로 하는 고성능 애플리케이션용으로 설계된 GPU 집약형 랙 서버입니다. 각각 최대 4개의 코어가 있는 56개의 100세대 Intel Xeon Scalable 프로세서가 장착되어 있으며 100개의 NVIDIA HGX HXNUMX 또는 XNUMX개의 NVIDIA HGX AXNUMX GPU를 장착할 수 있습니다. 모두 NVIDIA NVLink 기술과 상호 연결됩니다.
PowerEdge XE9680은 최대 4800MT/s의 DIMM 속도를 지원하고 32개의 DDR5 DIMM 슬롯이 있으며 최대 RAM 용량은 4TB입니다. 최대 8개의 2.5인치 NVMe SSD 스토리지를 제공하며 최대 용량은 122.88TB입니다. 또한 서버에는 암호화 서명된 펌웨어, DRE(Data at Rest Encryption), 보안 부팅 등과 같은 다양한 보안 기능이 포함되어 있습니다. 내장형 iDRAC9 시스템을 통해 관리되며 다양한 관리 도구 및 통합을 지원합니다. 서버는 6U 랙 폼 팩터에 장착되며 무게는 235.89파운드입니다. (107kg).
Dell PowerEdge XE9680 사양
PowerEdge XE9680은 대용량 메모리를 사용하는 AI 워크로드를 처리하도록 설계되었습니다. NVLink 덕분에 GPU는 시스템의 다른 GPU에서 방대한 양의 메모리에 액세스하여 공유 리소스에 대한 고속 액세스를 제공합니다. 이 중요한 메모리 기능은 더 높은 성능, 더 복잡한 모델, 더 크고 자세한 데이터 세트로 작업할 수 있는 기능으로 이어지며 더 큰 매개 변수 모델을 활용하여 정확도와 유용성을 향상시킵니다.
모델:
프로세서 기능:
물리적 속성 :
메모리 지원 :
|
I/O 기능:
GPU 최적화 :
인공 지능 기능:
드라이브 지원:
|
이미지 생성 모델: 예술의 과학
반 고흐처럼 그림을 그리거나 다빈치처럼 스케치하고 싶지만 결국 유치원생에게도 감동을 주지 못하는 막대기 모양으로 끝나기를 바란 적이 있습니까? 기이함과 베레모를 뺀 엄청난 예술가와 동등한 기계 학습인 이미지 생성 모델(IGM)의 세계로 들어가십시오.
IGM은 새로운 이미지 생성을 처리하도록 설계된 기계 학습 모델의 하위 집합입니다. IGM은 데이터 패턴을 이해하고 복제하는 것과 관련된 보다 광범위한 생성 모델링 분야에 속합니다. 여전히 숫자나 텍스트를 생성하는 대신 이러한 모델은 시각적 개체를 만드는 비즈니스에 있습니다. 최근 몇 달 동안 IGM은 새로운 예술 작품부터 섬뜩할 정도로 사실적인 인간의 얼굴에 이르기까지 모든 것을 생성하는 뉴스를 만들었습니다.
이러한 모델은 예술 및 엔터테인먼트에서 광고 및 과학 연구에 이르기까지 모든 분야에서 사용되었습니다. 그들은 의학적 진단을 위해 세포 이미지를 만들고, 우주 공간을 시뮬레이션하고, 스스로 메기를 할 수 있을 정도로 사실적인 셀카를 생성합니다. 이러한 모델이 발전함에 따라 이를 신속하게 실행하기 위한 요구 사항이 증가하고 있습니다.
제너레이티브 AI용 Dell PowerEdge XE9680: 안정적인 확산의 에지 강화
추론 중에 새 이미지를 생성할 때 확산 방법은 일반적으로 동기화된 대규모 GPU 클러스터에 의존하며 광범위한 하드웨어 런타임이 필요합니다. 그러나 Dell의 백서에는 Dell PowerEdge XE9680 서버를 사용하면 이러한 생성 AI 작업의 속도를 크게 높일 수 있다고 나와 있습니다.
이를 통해 수십에서 수백 개의 합리적으로 해결된 이미지를 단 몇 초 만에 생성할 수 있습니다. Dell은 Generative AI용 Dell PowerEdge XE9680의 기능을 활용하여 단일 텍스트 프롬프트에서 몇 초 만에 대형 고해상도 이미지(Dell 사용 2,096 x 2,096)를 생성할 수 있다고 지적합니다.
텍스트 프롬프트로 생성된 XE9680 = "행복한 개의 초상화, 클로즈업,"
The 백서 배치 크기 및 이미지 해상도 변화를 고려하여 PowerEdge XE9680 서버의 HuggingFace Diffusers 텍스트-이미지 모델에 대한 이미지 생성 대기 시간을 평가합니다. XE9680 서버는 최대 2,048 x 2,048 해상도의 이미지를 생성할 수 있습니다.
배치 크기가 증가함에 따라 인프라에 대한 메모리 수요도 증가했습니다. 따라서 저해상도 이미지(예: 256 x 256)로 대규모 배치 크기를 달성할 수 있었습니다. 그러나 메모리 제한으로 인해 매우 높은 해상도의 이미지(예: 2,048 x 2,048)는 하나의 배치 크기만 생성할 수 있습니다.
PowerEdge XE9680 배치 이미지 생성 시간
256 x 256 및 512 x 512 해상도에서 이미지의 배치 이미지 생성에 초점을 맞추면 몇 초 안에 여러 이미지를 생성하는 Generative AI용 Dell PowerEdge XE9680의 강력한 기능을 알 수 있습니다. 이 기능은 창의적인 설계 주기에 필요한 평가, 신속한 조정 및 추가 평가를 가속화합니다. 이러한 결과는 Dell PowerEdge XE32 서버에서 HuggingFace Diffusers 패키지를 사용하여 512초 이내에 512 x 9680 해상도의 10개 이미지 배치를 생성하는 방법을 보여줍니다. 또한 동일한 플랫폼에서 64 x 256 해상도의 256개 이미지 배치를 5초 이내에 생성할 수 있어 비즈니스 및 전문가를 위한 신속한 프로토타이핑 및 창의적인 디자인 주기가 가능합니다.
이미지 생성 벤치마크
백서의 분석에서 Dell PowerEdge XE9680 서버는 Lambda에서 설정한 이미지 생성 대기 시간 벤치마크와 비교하여 평가되었습니다. 이 비교에는 Dell PowerEdge XE100 서버의 80GB RAM이 장착된 단일 NVIDIA H9680 GPU와 Lambda의 ML Labs 팀에서 발표한 NVIDIA H100 GPU Stable Diffusion 벤치마크가 포함되었습니다.
Dell PowerEdge XE9680 이미지 생성 대기 시간
이 연구는 XE9680이 Lambda의 벤치마크를 능가하여 대략 두 배의 처리량을 달성했음을 입증했습니다. Dell의 결과는 동일한 소프트웨어 정의 조건에서 NVIDIA H100 GPU 연구의 데이터를 사용하여 Lambda와 동일한 형식으로 제공됩니다. 유일한 차이점은 하드웨어였습니다. Lambda는 PCIe 폼 팩터 NVIDIA H100 GPU를 사용한 반면 Dell PowerEdge XE9680 서버는 HGX 폼 팩터를 사용했는데 이는 약간의 성능 차이를 설명할 수 있습니다.
이미지 생성 모델의 비즈니스 영향
Stable Diffusion을 통한 이미지 생성을 통해 크리에이티브 전문가는 마케팅 및 광고 전략의 효율성을 높이고 시장 출시 시간을 단축하는 등 작업을 신속하게 프로토타이핑하고 개선할 수 있습니다. 건축, 광고, 마케팅, 창의성, 영화, 특수 효과, 사진 및 예술과 같은 분야의 전문가들은 이미 이 기술을 채택했습니다.
Stable Diffusion과 같은 생성 AI 기술은 특히 속도가 중요한 경우 기업 운영에 혁신적인 변화를 가져올 수 있습니다. 제품 디자인 및 개발에서 이러한 모델은 시각적 프로토타입을 신속하게 생성할 수 있으므로 디자인 팀은 개념을 실시간으로 평가하고 구체화할 수 있습니다. 이는 설계 프로세스를 가속화하고 시장 출시 시간을 단축합니다.
가장 흥미로운 개념 중 하나는 소매업에서 나옵니다. AI는 "이 의자를 빨간색으로 보여주세요" 또는 "레오파드 프린트로 소파가 어떻게 보일지"와 같은 고객 선호도를 기반으로 다양한 제품 구성 또는 색상 옵션의 사실적인 이미지를 빠르게 생성할 수 있습니다. 부동산 및 건설 사업의 경우 생성 AI는 계획 및 판매 프레젠테이션을 지원하는 새 건물 또는 리모델링 프로젝트의 시각화를 신속하게 생성할 수 있습니다.
기업 내 훈련 및 교육 분야에서 AI로 생성된 이미지를 사용하여 직원 교육 프로그램을 위한 현실적인 시나리오를 생성하여 학습 성과를 높일 수 있습니다. 이미지 생성 속도는 비즈니스의 민첩성을 크게 향상시켜 시장 변화, 고객 요구 및 내부 요구 사항에 보다 효과적으로 대응할 수 있도록 합니다.
생각을 폐쇄
Dell PowerEdge XE9680은 (최소한 현재로서는) 까다로운 AI 워크로드를 쉽게 처리할 수 있는 인상적인 기능을 갖춘 고성능 서버입니다. XE9680은 유행하는 AI 시장을 겨냥하고 있지만 이러한 강력한 상자에 대한 분석 및 데이터 처리에서 다른 흥미로운 사용 사례가 있을 수 있습니다. XE9680이 지원한다는 점에 유의해야 합니다. Dell의 프로젝트 헬릭스, 조직이 보다 적시에 AI 프로젝트를 온라인으로 진행할 수 있도록 지원하는 서비스입니다.
StorageReview에 참여
뉴스레터 | 유튜브 | 팟캐스트 iTunes/스포티 파이 | 인스타그램 | 트위터 | 틱톡 서비스 | RSS 피드
