Generative KI-Anwendungen erzeugen beeindruckende Textantworten, die manchmal genau und manchmal völlig unangebracht sind. Diese intelligenten Anwendungen basieren auf großen Sprachmodellen (LLMs), die in der Lage sind, komplexe Anfragen zu beantworten und Kunstwerke, Literatur und mehr zu erstellen. Es ist von entscheidender Bedeutung, sicherzustellen, dass diese intelligenten Anwendungen Textantworten generieren, die korrekt, angemessen, themenbezogen, sicher und aktuell sind.
Generative KI-Anwendungen erzeugen beeindruckende Textantworten, die manchmal genau und manchmal völlig unangebracht sind. Diese intelligenten Anwendungen basieren auf großen Sprachmodellen (LLMs), die in der Lage sind, komplexe Anfragen zu beantworten und Kunstwerke, Literatur und mehr zu erstellen. Es ist von entscheidender Bedeutung, sicherzustellen, dass diese intelligenten Anwendungen Textantworten generieren, die korrekt, angemessen, themenbezogen, sicher und aktuell sind.
NVIDIA hat Open-Source-Software veröffentlicht, um Entwicklern dabei zu helfen, diese generativen KI-Anwendungen auf Kurs zu halten. NeMo Guardrails tragen dazu bei, dass KI-Apps angemessen, genau und sicher reagieren. Die NeMo Guardrails-Software enthält den gesamten Code, die Beispiele und die Dokumentation, die Unternehmen benötigen, um sich bei der Bereitstellung von KI-Apps, die Text generieren, sicher zu fühlen.
Auswirkungen auf Unternehmen
Unternehmen haben gezeigt, dass sie zögern, große Sprachmodelle (LLMs) zu implementieren, weil sie Bedenken hinsichtlich der Sicherheit und der Möglichkeit haben, dass LLMs unangemessene oder voreingenommene Inhalte generieren. Die Einführung von NeMo Guardrails bietet eine vielversprechende Lösung für diese Herausforderungen, indem es dazu beiträgt, die mit der LLM-Einführung verbundenen Risiken zu mindern und Unternehmen dabei zu helfen, ihre Bedenken zu überwinden. Durch die Bereitstellung eines Toolkits zum Aufbau sicherer und vertrauenswürdiger LLM-Konversationssysteme ermöglicht NeMo Guardrails Entwicklern die einfache Festlegung programmierbarer Regeln, die Benutzerinteraktionen vorschreiben und so sicherstellen, dass LLM-basierte Anwendungen den Unternehmensstandards und -richtlinien entsprechen.
Die von NeMo Guardrails unterstützten Themen- und Sicherheitsleitplanken gehen auf einige der Hauptanliegen ein, die wir von Unternehmen gehört haben, von der Aufrechterhaltung des Themenschwerpunkts bis hin zur Verhinderung von Fehlinformationen oder unangemessenen oder böswilligen Reaktionen. Durch die Bereitstellung eines robusten Sicherheitsmodells und die Minderung der mit LLM-basierten Anwendungen verbundenen Risiken weckt NeMo Guardrails bei Unternehmen größeres Vertrauen in die Einführung dieser leistungsstarken Technologie.
Mit der Veröffentlichung von NeMo Guardrails kann es hoffentlich als Katalysator für die breitere Einführung von LLMs in Unternehmen dienen und die Lücke zwischen den Fähigkeiten der KI-Technologie und den Sicherheitsanforderungen der Geschäftswelt schließen.
Sicher, themenbezogen, sicher
Viele Branchen übernehmen LLMs bei der Einführung von KI-Anwendungen, die letztendlich Kundenfragen beantworten, Zusammenfassungen für lange Dokumente bereitstellen, Software schreiben und die Arzneimittelentwicklung beschleunigen. Bei diesem vielfältigen Publikum ist die Sicherheit in der generativen KI ein wichtiges Anliegen, und NVIDIA NeMo Guardrails wurde für die Zusammenarbeit mit allen LLMs, einschließlich ChatGPT von OpenAI, entwickelt, um die Sicherheit der Benutzer zu gewährleisten.
Entwickler können NeMo Guardrails verwenden, um drei Arten von Grenzen einzurichten:
- Aktuelle Leitplanken: Verhindert, dass Apps in unerwünschte Bereiche abdriften, indem sie beispielsweise Kundendienstmitarbeiter daran hindern, Fragen zum Wetter zu beantworten.
- Sicherheitsgeländer: Stellt sicher, dass Apps mit genauen und angemessenen Informationen antworten, unerwünschte Sprache herausfiltert und dafür sorgt, dass Verweise nur auf glaubwürdige Quellen erfolgen.
- Sicherheitsleitplanken: Beschränkt Apps darauf, nur Verbindungen zu externen Drittanbieteranwendungen herzustellen, die als sicher gelten.
Für NeMo Guardrails ist es nicht erforderlich, dass Softwareentwickler Experten für maschinelles Lernen oder Datenwissenschaftler sind. Mit nur wenigen Codezeilen lassen sich schnell neue Regeln erstellen.
Open Source und verfügbar auf GitHub
NVIDIA fügt NeMo Guardrails zum NVIDIA NeMo-Framework hinzu und bietet Benutzern alles, was sie zum Trainieren und Optimieren von Sprachmodellen benötigen. Ein Großteil des NeMo-Frameworks ist bereits auf GitHub verfügbar, und Unternehmen können ein vollständiges und unterstütztes Paket erhalten, da es Teil der NVIDIA AI Enterprise-Softwareplattform ist.
NeMo ist außerdem Teil von NVIDIA AI Foundations, einer Familie von Cloud-Diensten für Unternehmen, die benutzerdefinierte generative KI-Modelle basierend auf ihren eigenen Datensätzen und Domänenkenntnissen erstellen und ausführen möchten.
Auf Colang aufgebaut
NeMo Guardrails basiert auf CoLang, einer Modellierungssprache und zugehöriger Laufzeit für Konversations-KI. Colang bietet Benutzern eine lesbare und erweiterbare Schnittstelle, um das Verhalten von Konversationsbots mit natürlicher Sprache zu definieren oder zu steuern.
Leitplanken werden erstellt, indem Flows in einer Colang-Datei mithilfe kanonischer Formulare, Nachrichten und Flows definiert werden. Dies wird durch die Verwendung natürlicher Sprache erreicht, wodurch es einfach ist, den Bot zu konstruieren und bei der Arbeit zu halten. Mehrere GitHub-Beispiele Behandeln Sie gängige Muster für die Implementierung von Leitplanken.
Entdecken Sie NeMo-Leitplanken
Beteiligen Sie sich an StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
