Generative AI 애플리케이션은 때로는 정확하고 때로는 완전히 주제에서 벗어난 인상적인 텍스트 응답을 생성합니다. 이러한 스마트 애플리케이션은 복잡한 쿼리에 응답하고 예술, 문학 등의 작품을 만들 수 있는 대규모 언어 모델(LLM)로 구동됩니다. 이러한 스마트 애플리케이션이 정확하고 적절하며 주제에 맞고 안전하며 최신 텍스트 응답을 생성하도록 하는 것이 중요합니다.
Generative AI 애플리케이션은 때로는 정확하고 때로는 완전히 주제에서 벗어난 인상적인 텍스트 응답을 생성합니다. 이러한 스마트 애플리케이션은 복잡한 쿼리에 응답하고 예술, 문학 등의 작품을 만들 수 있는 대규모 언어 모델(LLM)로 구동됩니다. 이러한 스마트 애플리케이션이 정확하고 적절하며 주제에 맞고 안전하며 최신 텍스트 응답을 생성하도록 하는 것이 중요합니다.
NVIDIA는 개발자가 이러한 생성 AI 애플리케이션을 순조롭게 유지하는 데 도움이 되는 오픈 소스 소프트웨어를 출시했습니다. NeMo Guardrails는 AI 앱이 적절하고 정확하며 안전하게 응답하도록 도와줍니다. NeMo Guardrails 소프트웨어에는 기업이 텍스트를 생성하는 AI 앱을 배포하는 데 필요한 모든 코드, 예제 및 문서가 포함되어 있습니다.
기업에 미치는 영향
기업은 안전, 보안 및 LLM이 부적절하거나 편향된 콘텐츠를 생성할 가능성을 둘러싼 우려 때문에 대규모 언어 모델(LLM)을 구현하는 것을 주저했습니다. NeMo Guardrails의 도입은 이러한 문제에 대한 유망한 솔루션을 제공하여 LLM 채택과 관련된 위험을 완화하고 기업이 망설임을 극복하도록 돕습니다. 안전하고 신뢰할 수 있는 LLM 대화 시스템을 구축하기 위한 툴킷을 제공함으로써 NeMo Guardrails는 개발자가 사용자 상호 작용을 지시하는 프로그래밍 가능한 규칙을 쉽게 설정하여 LLM 기반 응용 프로그램이 기업 표준 및 정책을 준수하도록 합니다.
NeMo Guardrails가 지원하는 주제별, 안전 및 보안 가드레일은 주제별 초점 유지에서 잘못된 정보 또는 부적절하거나 악의적인 응답 방지에 이르기까지 기업에서 들었던 몇 가지 주요 우려 사항을 해결합니다. 강력한 보안 모델을 제공하고 LLM 기반 애플리케이션과 관련된 위험을 완화함으로써 NeMo Guardrails는 기업이 이 강력한 기술을 채택할 수 있도록 더 큰 확신을 심어줍니다.
NeMo Guardrails의 출시와 함께 LLM의 기업 채택 확대를 위한 촉매 역할을 하여 AI 기술의 기능과 비즈니스 세계의 안전 및 보안 요구 사항 사이의 격차를 해소할 수 있기를 바랍니다.
안전하고 주제에 맞는 보안
많은 업계에서 궁극적으로 고객 질문에 답하고, 긴 문서에 대한 요약을 제공하고, 소프트웨어를 작성하고, 약물 설계를 가속화하는 AI 애플리케이션을 출시하면서 LLM을 채택하고 있습니다. 이렇게 다양한 청중에게 제너레이티브 AI의 안전은 중요한 관심사이며 NVIDIA NeMo Guardrails는 OpenAI의 ChatGPT를 포함한 모든 LLM과 함께 작동하여 사용자를 안전하게 보호하도록 설계되었습니다.
개발자는 NeMo Guardrails를 사용하여 세 가지 종류의 경계를 설정할 수 있습니다.
- 국소 가드레일: 고객 서비스 직원이 날씨에 대한 질문에 답하지 못하게 하는 것과 같이 앱이 일부 원하지 않는 영역으로 방향을 바꾸는 것을 방지합니다.
- 안전 난간: 앱이 정확하고 적절한 정보로 응답하도록 하고 원치 않는 언어를 필터링하고 신뢰할 수 있는 출처만 참조하도록 합니다.
- 보안 난간: 안전한 것으로 알려진 외부 타사 애플리케이션에만 연결하도록 앱을 제한합니다.
NeMo Guardrails는 소프트웨어 개발자가 기계 학습 전문가이거나 데이터 과학자가 될 것을 요구하지 않습니다. 몇 줄의 코드만으로 새로운 규칙을 빠르게 만들 수 있습니다.
오픈 소스 및 GitHub에서 사용 가능
NVIDIA는 사용자가 언어 모델을 훈련하고 조정하는 데 필요한 모든 것을 제공하는 NeMo Guardrails를 NVIDIA NeMo 프레임워크에 추가하고 있습니다. NeMo 프레임워크의 대부분은 이미 GitHub에서 사용할 수 있으며 기업은 NVIDIA AI 엔터프라이즈 소프트웨어 플랫폼의 일부이므로 완벽하고 지원되는 패키지를 얻을 수 있습니다.
NeMo는 자체 데이터 세트 및 도메인 지식을 기반으로 맞춤형 생성 AI 모델을 만들고 실행하려는 기업을 위한 클라우드 서비스 제품군인 NVIDIA AI Foundations의 일부이기도 합니다.
Colang 기반
NeMo Guardrails는 대화형 AI를 위한 모델링 언어 및 관련 런타임인 CoLang을 기반으로 구축되었습니다. Colang은 사용자가 자연어로 대화형 봇의 동작을 정의하거나 제어할 수 있도록 읽기 쉽고 확장 가능한 인터페이스를 제공합니다.
가드레일은 정식 형식, 메시지 및 흐름을 사용하여 Colang 파일에서 흐름을 정의하여 생성됩니다. 이것은 자연어를 사용하여 달성되므로 봇을 간단하게 구성하고 작업을 계속할 수 있습니다. 여러 개의 GitHub 예제 가드레일 구현을 위한 일반적인 패턴을 다룹니다.
StorageReview에 참여
뉴스레터 | 유튜브 | 팟캐스트 iTunes/스포티 파이 | 인스타그램 | 트위터 | 틱톡 서비스 | RSS 피드
