기업들은 Generative AI 모델을 구현할 때 보다 인간 중심적인 방법론을 채택하여 혁신과 효율성의 한계를 뛰어넘고 있습니다. 이러한 모델은 챗봇, 코드 개발, 가상 비서와 같은 다양한 애플리케이션에서 유용성을 찾습니다. 그러나 퍼블릭 클라우드 솔루션은 편리하기는 하지만 문자열이 첨부된 경우가 많습니다. 여기에는 데이터 주권, 예측할 수 없는 비용, 규정 준수 문제와 관련된 보안 위험이 포함됩니다.
기업들은 Generative AI 모델을 구현할 때 보다 인간 중심적인 방법론을 채택하여 혁신과 효율성의 한계를 뛰어넘고 있습니다. 이러한 모델은 챗봇, 코드 개발, 가상 비서와 같은 다양한 애플리케이션에서 유용성을 찾습니다. 그러나 퍼블릭 클라우드 솔루션은 편리하기는 하지만 문자열이 첨부된 경우가 많습니다. 여기에는 데이터 주권, 예측할 수 없는 비용, 규정 준수 문제와 관련된 보안 위험이 포함됩니다.
오픈 소스를 갖춘 온프레미스 솔루션 선택 큰 언어 모델 (LLM), 특히 Llama 2는 보다 예측 가능하고 안전한 대안을 제공합니다. 이 모델은 시간이 지남에 따라 지속 가능한 비용 구조를 제공하고 민감한 데이터에 대한 보다 엄격한 제어를 제공합니다. 더 큰 그림에서 이는 데이터 보안 침해 및 지적 재산 유출과 관련된 위험을 크게 줄여 규정 준수 및 규정에 더 잘 부합합니다.
Dell의 검증된 설계 GenAI 솔루션
Dell Technologies는 Dell 검증 설계를 통해 강조된 이러한 전환을 간소화하기 위해 Generative AI 솔루션을 갖춘 턴키 솔루션을 만들었습니다. 이 통합 패키지는 사전 테스트된 하드웨어 및 소프트웨어와 Generative AI 프로젝트를 위해 명시적으로 구축된 강력한 기반을 제공합니다. Meta와의 협력을 통해 이 생태계가 확장되어 기업은 Meta의 Llama 2 AI 모델을 Dell의 기존 인프라에 쉽게 통합할 수 있습니다.
이 모델을 구동하는 하드웨어도 만만치 않습니다. 예를 들어, 델 파워에지 XE9680 서버(Jordan이 선호하는 서버)에는 100개의 NVIDIA H2 GPU가 장착되어 있어 Llama XNUMX와 같은 대규모 언어 모델을 미세 조정하고 배포하는 데 이상적인 작업 도구입니다. Dell은 사전 검증된 온프레미스 솔루션을 제공함으로써 기업이 중단 없이 작동할 수 있도록 지원합니다. 더 큰 지적 재산 보호를 보장합니다.
맞춤화를 위한 새로운 길을 열다
특히 지도형 미세 조정, LoRA 및 p-튜닝과 같은 모델 사용자 정의 기술에 대한 연구에 대한 Dell의 투자는 엔터프라이즈 수준 사용자 정의를 위한 새로운 길을 열었습니다. 그들은 2B에서 7B까지 다양한 Llama 70 모델에서 이러한 기술의 효율성을 입증했으며, 이를 통해 기업은 이러한 강력한 AI 도구를 특정 요구 사항에 맞게 조정할 수 있는 유연성을 제공합니다.
본질적으로 Dell과 Meta의 Llama 2 협력은 다양한 규모의 조직을 위한 새롭고도 풍부한 옵션 환경을 제공합니다. 이러한 통합 접근 방식을 사용하면 데스크톱, 핵심 데이터 센터, 엣지 위치 등 여러 배포 영역에 걸쳐 Generative AI 솔루션을 원활하게 구현할 수 있으며 퍼블릭 클라우드 인프라까지 확장할 수도 있습니다. 따라서 기업은 Generative AI를 더욱 발전시킬 때 활용할 수 있는 포괄적이면서도 유연한 툴킷을 보유하고 있습니다.
Dell과 Meta가 협력하여 생성적 AI 혁신을 주도합니다.
Dell PowerEdge XE2 서버에 Llama 9680 배포
StorageReview에 참여
뉴스레터 | 유튜브 | 팟캐스트 iTunes/스포티 파이 | 인스타그램 | 트위터 | 틱톡 서비스 | RSS 피드
