Framework Mosaic AI Agent
Créez des applications de génération augmentée par récupération (RAG) de haute qualité
La génération augmentée par récupération (RAG) est un modèle d'application d'IA générative qui recherche des données et des documents utiles afin de répondre à une question ou d'accomplir une tâche, puis de les fournir à des LLM en tant que contexte pour améliorer la pertinence des réponses.
Le framework Mosaic AI Agent est une suite d'outils conçue pour aider les développeurs à créer et déployer des applications d'IA générative de haute qualité grâce à la RAG. Cette approche produit en effet des résultats soumis à une gouvernance étroite, et dont la précision et la sécurité sont systématiquement confirmées par des mesures et des évaluations. Le framework Mosaic AI Agent facilite l'évaluation de la qualité des applications de RAG. Il accélère les itérations en donnant aux développeurs la possibilité de tester leurs hypothèses et de redéployer leur application sans effort, tout en appliquant les principes de gouvernance et les mesures de protection nécessaires pour garantir une qualité constante.
Une qualité optimale
Le framework Mosaic AI Agent aide les organisations à créer et déployer des applications d'IA générative de haute qualité, qui délivrent des résultats soumis à une gouvernance étroite, et dont la précision et la sécurité sont systématiquement confirmées par des mesures et des évaluations. Le framework Mosaic AI Agent comprend une fonction exclusive d'évaluation assistée par IA qui détermine automatiquement la qualité des résultats et propose une interface intuitive pour recueillir le feedback des acteurs humains.
Itérations rapides en développement
Le framework Mosaic AI Agent permet aux développeurs de collecter très simplement du feedback sur leur application d'IA générative, puis de tester toutes les hypothèses grâce à des itérations rapides. Le redéploiement en production se fait ensuite sans modification du code grâce à un workflow LLMOps intégré de bout en bout. Tous les aspects du processus RAG peuvent faire l'objet d'itérations : préparation des données, bases de données vectorielles, déploiement de modèle, supervision, sécurité et gouvernance.
Gouvernance et mesures de protection
Le framework Mosaic AI Agent s'intègre parfaitement au reste de la Databricks Data Intelligence Platform. Autrement dit, vous avez tout ce qu'il vous faut pour déployer un système RAG de bout en bout : sécurité et gouvernance, intégration des données, bases de données vectorielles, évaluation de la qualité et déploiement optimisé en un clic. Les dispositifs de gouvernance et de protection en place vous prémunissent contre les réponses toxiques tout en assurant la conformité de votre application aux politiques de votre organisation.
Pipelines temps réel automatisés pour tous les types de données
Mosaic AI prend nativement en charge le service et l'indexation de vos données en vue de leur récupération en ligne. Dans le cas de données non structurées (texte, images et vidéo), Vector Search indexe et sert automatiquement les données, les rendant disponibles pour des applications RAG sans qu'il faille créer de pipelines de données distincts. En coulisses, Vector Search gère les échecs et les nouvelles tentatives, ajustant automatiquement la taille des batches afin de trouver le meilleur compromis entre performance, débit et coût. Pour les données structurées, le service de fonctionnalités et de fonctions permet d'obtenir en quelques millisecondes les données contextuelles (données sur les utilisateurs et les comptes, notamment) que les entreprises veulent souvent injecter dans des prompts pour les personnaliser.
