NVIDIA는 최근 공개한 NVIDIA GH200 Grace Hopper Superchip을 통해 인공 지능(AI) 및 고성능 컴퓨팅 세계에서 큰 주목을 받았습니다. 이 최근 제품은 MLPerf 벤치마크에서 뛰어난 성능을 보여 클라우드 및 엣지 AI 분야에서 NVIDIA의 역량을 입증했습니다.
NVIDIA는 최근 공개한 NVIDIA GH200 Grace Hopper Superchip을 통해 인공 지능(AI) 및 고성능 컴퓨팅 세계에서 큰 주목을 받았습니다. 이 최근 제품은 MLPerf 벤치마크에서 뛰어난 성능을 보여 클라우드 및 엣지 AI 분야에서 NVIDIA의 역량을 입증했습니다.
큰 의미를 지닌 슈퍼칩
GH200 Superchip은 평범한 칩이 아닙니다. Hopper GPU와 Grace CPU를 고유하게 결합하여 향상된 메모리, 대역폭 및 최고 성능을 위해 CPU와 GPU 간의 전원 자동 조정 기능을 제공합니다. 이 혁신적인 통합을 통해 칩은 전력과 성능 간의 섬세한 균형을 달성하여 AI 애플리케이션이 필요할 때 필요한 리소스를 얻을 수 있도록 보장합니다.
탁월한 MLPerf 결과
MLPerf 벤치마크는 존경받는 업계 표준이며 NVIDIA의 GH200은 실망하지 않았습니다. 슈퍼칩은 모든 데이터 센터 추론 테스트를 실행했을 뿐만 아니라 NVIDIA AI 플랫폼의 다양성을 보여주어 클라우드 운영에서 네트워크 엣지까지 범위를 확장했습니다.
게다가 NVIDIA의 H100 GPU도 뒤처지지 않았습니다. 100개의 H100 GPU가 장착된 HGX H100 시스템은 모든 MLPerf 추론 테스트에서 뛰어난 처리량을 보여주었습니다. 이는 특히 컴퓨터 비전, 음성 인식, 의료 영상, 추천 시스템 및 대규모 언어 모델(LLM)과 같은 작업에 대한 HXNUMX GPU의 엄청난 잠재력과 기능을 강조합니다.
TensorRT-LLM: 추론 성능 증폭
NVIDIA는 항상 지속적인 혁신에 앞장서 왔으며, 텐서RT-LLM 이 유산에 대한 증거입니다. 이 생성 AI 소프트웨어는 추론을 강화하고 오픈 소스 라이브러리로 제공됩니다. 100월 평가 시간에 맞춰 MLPerf에 제출되지 않았음에도 불구하고 사용자가 추가 비용을 들이지 않고 HXNUMX GPU의 성능을 증폭시킬 수 있다는 가능성이 있습니다. Meta, Cohere 및 Grammarly와 같은 파트너는 LLM 추론을 향상하려는 NVIDIA의 노력으로부터 혜택을 받아 AI 영역에서 이러한 소프트웨어 개발의 중요성을 재확인했습니다.
L4 GPU: 메인스트림 서버와 성능을 연결
최신 MLPerf 벤치마크 사용, L4 GPU는 수많은 워크로드에서 뛰어난 성능을 보여주었습니다. 이러한 GPU를 소형 가속기에 배치하면 전력 등급이 더 높은 CPU보다 최대 4배 더 효율적인 성능 지표를 입증했습니다. CUDA 소프트웨어와 협력하여 전용 미디어 엔진을 도입함으로써 LXNUMX GPU는 특히 컴퓨터 비전 작업에서 우위를 점하게 되었습니다.
경계 확장: 엣지 컴퓨팅 등
이러한 발전은 클라우드 컴퓨팅에만 국한되지 않습니다. 엣지 컴퓨팅에 대한 NVIDIA의 초점은 Jetson Orin 시스템 온 모듈을 통해 분명하게 드러납니다. 이 시스템은 객체 감지에서 이전 버전에 비해 최대 84% 향상된 성능을 보여줍니다.
MLPerf: 투명한 벤치마킹 표준
MLPerf는 전 세계 사용자가 구매 결정을 내리는 데 계속해서 의존하는 객관적인 벤치마크입니다. Dell, Lenovo, Supermicro와 같은 유명한 시스템 제조업체와 함께 Microsoft Azure 및 Oracle Cloud Infrastructure와 같은 클라우드 서비스 대기업이 포함되면서 업계에서 MLPerf의 중요성이 강조됩니다.
결론적으로 NVIDIA의 최근 MLPerf 벤치마크 성과는 AI 부문에서 NVIDIA의 리더십 위치를 강화합니다. 광범위한 생태계, 지속적인 소프트웨어 혁신, 고품질 성능 제공에 대한 노력을 통해 NVIDIA는 실제로 AI의 미래를 만들어가고 있습니다.
NVIDIA의 성과에 대한 보다 심층적인 기술 정보를 보려면 링크된 링크를 참조하세요. 기술 블로그. NVIDIA의 벤치마킹 성공을 복제하려는 사람들은 다음에서 소프트웨어에 액세스할 수 있습니다. MLPerf 저장소 그리고 NVIDIA NGC 소프트웨어 허브.
StorageReview에 참여
뉴스레터 | 유튜브 | 팟캐스트 iTunes/스포티 파이 | 인스타그램 | 트위터 | 틱톡 서비스 | RSS 피드
