Nvidia lance un outil d’IA sécurisé
Nvidia a dévoilé l’outil NeMo Guardrails pour aider les développeurs à garantir que l’IA générative est précise, pertinente et sécurisée.
NeMo Guardrails, la nouvelle boîte à outils pour développer facilement des applications conversationnelles fiables basées sur LLM.
ça marche avec tout #LLM et supporte nativement @LangChainAI, ajoutant une couche de protection, de sécurité et de garde-corps thématiques aux applications existantes. ➡️ https://t.co/CBHbTkcDUU pic.twitter.com/irYFmlHKdM
— Développeur NVIDIA AI (@NVIDIAAIDev) 25 avril 2023
NeMo Guardrails permet aux développeurs d’appliquer trois types de restrictions différents à leurs modèles de langage (LLM). En particulier, les entreprises peuvent mettre en place des “barrières thématiques” qui empêcheront leurs applications de répondre à des requêtes non pertinentes.
Par exemple, un chatbot du service client utilisant son logiciel refusera de répondre à une question sur la météo.
Les entreprises peuvent également fixer des limites pour s’assurer que les LLM reçoivent des informations exactes et se connectent à des applications sécurisées.
Selon Nvidia, NeMo Guardrails fonctionne avec tous les modèles de langage, y compris ChatGPT. La société affirme également que presque tous les développeurs de logiciels peuvent utiliser l’outil.
Nvidia a créé les garde-corps NeMo […] open source pour contribuer à la formidable énergie de la communauté des développeurs et à la sécurité du travail de l’IA », indique le blog.
La société est convaincue que l’outil aidera les développeurs à mettre leurs services intellectuels en conformité avec les exigences de sécurité.
NeMo Guardrails est open source. Nvidia a noté qu’il fonctionnera également avec tous les outils que les développeurs d’entreprise utilisent déjà.
L’outil est inclus dans la plate-forme NeMo existante pour créer des modèles d’IA génératifs. Les clients professionnels peuvent également y accéder via les plateformes AI Enterprise ou AI Foundations.
Rappelons qu’en avril, Nvidia a montré algorithme de génération vidéo réaliste par description textuelle.
En septembre 2022, la société a introduit nouvelles puces et services d’IA. Parmi eux se trouve la plate-forme de création de modèles de langage NeMo LLM.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL + ENTRÉE
Newsletters ForkLog : Gardez le doigt sur le pouls de l’industrie du bitcoin !