Construisez des applications RAG de haute qualité avec le cadre d'agent Mosaic AI et l'évaluation d'agent, le service de modèle et la recherche vectorielle

Les LLMs révolutionnent la façon dont nous interagissons avec l'information, des bases de connaissances internes à la documentation externe orientée client ou au support.

Apprenez à créer et à déployer un chatbot de questions-réponses en temps réel en utilisant la génération augmentée par récupération (RAG) de Databricks et les capacités sans serveur, en exploitant le modèle de base DBRX Instruct pour des réponses intelligentes.

RAG est une technique puissante où nous enrichissons l'invite LLM avec un contexte supplémentaire spécifique à votre domaine afin que le modèle puisse fournir de meilleures réponses.

Cette technique fournit d'excellents résultats en utilisant des modèles publics sans avoir à déployer et à affiner vos propres LLMs.

Vous apprendrez comment :

• Préparez des documents propres pour construire votre base de connaissances interne et spécialiser votre chatbot
• Utilisez la recherche vectorielle Databricks avec notre point de terminaison du modèle de base pour créer et stocker des incorporations de documents
• Recherchez des documents similaires dans notre base de connaissances avec Databricks Vector Search
• Déployez un modèle en temps réel en utilisant RAG et en fournissant un contexte augmenté dans l'invite
• Exploitez le modèle DBRX instruct via le point de terminaison du modèle de base Databricks (entièrement géré)
• Déployez votre application d'évaluation d'agent Mosaic AI pour examiner les réponses et évaluer l'ensemble de données
• Déployez une interface utilisateur de chatbot en utilisant l'Application Lakehouse

 

Pour exécuter la démo, obtenez un espace de travail Databricks gratuit et exécutez les deux commandes suivantes dans un carnet de notes Python :