Les applications d'IA génératives créent des réponses textuelles impressionnantes qui sont parfois précises et parfois complètement hors sujet. Ces applications intelligentes sont alimentées par de grands modèles de langage (LLM) capables de répondre à des requêtes complexes et de créer des œuvres d'art, de la littérature, etc. Il est essentiel de s'assurer que ces applications intelligentes génèrent des réponses textuelles précises, appropriées, pertinentes, sécurisées et à jour.
Les applications d'IA génératives créent des réponses textuelles impressionnantes qui sont parfois précises et parfois complètement hors sujet. Ces applications intelligentes sont alimentées par de grands modèles de langage (LLM) capables de répondre à des requêtes complexes et de créer des œuvres d'art, de la littérature, etc. Il est essentiel de s'assurer que ces applications intelligentes génèrent des réponses textuelles précises, appropriées, pertinentes, sécurisées et à jour.
NVIDIA a publié un logiciel open source pour aider les développeurs à maintenir ces applications d'IA génératives sur la bonne voie. NeMo Guardrails aidera à garantir que les applications d'IA répondent de manière appropriée, précise et sécurisée. Le logiciel NeMo Guardrails comprend tout le code, les exemples et la documentation dont les entreprises ont besoin pour déployer en toute confiance des applications d'IA qui génèrent du texte.
Implications pour l'entreprise
Les entreprises ont hésité à mettre en œuvre de grands modèles linguistiques (LLM) en raison de préoccupations concernant la sûreté, la sécurité et la possibilité que les LLM génèrent un contenu inapproprié ou biaisé. L'introduction de NeMo Guardrails offre une solution prometteuse à ces défis, aidant à atténuer les risques associés à l'adoption du LLM et aidant les entreprises à surmonter leurs hésitations. En fournissant une boîte à outils pour créer des systèmes conversationnels LLM sûrs et fiables, NeMo Guardrails permet aux développeurs d'établir facilement des règles programmables qui dictent les interactions des utilisateurs, garantissant que les applications basées sur LLM respectent les normes et politiques de l'entreprise.
Les garde-fous thématiques, de sûreté et de sécurité pris en charge par NeMo Guardrails répondent à certaines des principales préoccupations que nous avons entendues des entreprises, du maintien de l'actualité à la prévention de la désinformation ou des réponses inappropriées ou malveillantes. En offrant un modèle de sécurité robuste et en atténuant les risques associés aux applications basées sur LLM, NeMo Guardrails instille une plus grande confiance dans les entreprises pour adopter cette technologie puissante.
Avec la sortie de NeMo Guardrails, nous espérons qu'il pourra servir de catalyseur pour une adoption plus large des LLM par les entreprises, en comblant le fossé entre les capacités de la technologie de l'IA et les exigences de sûreté et de sécurité du monde des affaires.
Sûr, sur le sujet, sécurisé
De nombreuses industries adoptent les LLM lorsqu'elles déploient des applications d'IA qui répondront finalement aux questions des clients, fourniront des résumés de longs documents, écriront des logiciels et accéléreront la conception de médicaments. Avec ce public diversifié, la sécurité dans l'IA générative est une préoccupation importante, et NVIDIA NeMo Guardrails a été conçu pour fonctionner avec tous les LLM, y compris ChatGPT d'OpenAI, pour aider à assurer la sécurité des utilisateurs.
Les développeurs peuvent utiliser NeMo Guardrails pour configurer trois types de limites :
- Garde-corps thématiques : Empêche les applications de dévier de leur trajectoire dans une zone indésirable, comme empêcher les assistants du service client de répondre aux questions sur la météo.
- Garde-corps de sécurité : S'assure que les applications répondent avec des informations précises et appropriées, filtrent le langage indésirable et imposent des références faites uniquement à des sources crédibles.
- Garde-corps de sécurité: limite les applications à établir des connexions uniquement avec des applications tierces externes connues pour être sûres.
NeMo Guardrails n'exige pas que les développeurs de logiciels soient des experts en apprentissage automatique ou qu'ils deviennent des scientifiques des données. De nouvelles règles peuvent être créées rapidement avec seulement quelques lignes de code.
Open Source et disponible sur GitHub
NVIDIA ajoute NeMo Guardrails au framework NVIDIA NeMo, fournissant tout ce dont les utilisateurs ont besoin pour former et ajuster les modèles de langage. Une grande partie du framework NeMo est déjà disponible sur GitHub, et les entreprises peuvent obtenir un package complet et pris en charge car il fait partie de la plate-forme logicielle NVIDIA AI Enterprise.
NeMo fait également partie de NVIDIA AI Foundations, une famille de services cloud pour les entreprises qui cherchent à créer et à exécuter des modèles d'IA génératifs personnalisés basés sur leurs propres ensembles de données et leurs connaissances du domaine.
Construit sur Colang
NeMo Guardrails est construit sur CoLang, un langage de modélisation et un runtime associé pour l'IA conversationnelle. Colang fournit une interface lisible et extensible permettant aux utilisateurs de définir ou de contrôler le comportement des bots conversationnels en langage naturel.
Les barrières de sécurité sont créées en définissant des flux dans un fichier Colang à l'aide de formulaires, de messages et de flux canoniques. Ceci est réalisé en utilisant un langage naturel, ce qui simplifie la construction et permet au bot de rester concentré sur sa tâche. Plusieurs Exemples GitHub aborder les modèles communs pour la mise en œuvre des garde-corps.
S'engager avec StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | Flux RSS
