Formation de modèles IA Mosaic : Affinez votre LLM sur Databricks pour des tâches et des connaissances spécialisées

Les LLM de base excellent dans la connaissance globale et les tâches génériques. Cependant, de nombreux cas d'utilisation nécessitent des connaissances ou un comportement spécifiques. 

Avec Databricks, vous pouvez facilement affiner et déployer des versions spécialisées de LLM OSS qui surpasseraient les modèles de base :

• Déployez et possédez des LLM plus petits, surpassant les plus grands tout en réduisant les coûts et en renforçant la confidentialité/sécurité
• Formez LLM par vous-même, sur votre propre connaissance d'entreprise personnalisée
• Modifiez le comportement du LLM pour mieux effectuer des tâches spécifiques telles que la reconnaissance d'entités nommées (NER).

Dans ce tutoriel, vous apprendrez à :

• Préparez un ensemble de données d'entraînement et d'évaluation propre
• Utilisez la formation de modèles IA Mosaic Databricks pour personnaliser un LLM OSS existant (Mistral, Llama, DBRX...)
• Déployez ce modèle sur un point de terminaison de service de modèle, fournissant des inférences en direct
• Évaluez et comparez le modèle Fine Tuned à sa base de référence, en utilisant MLflow Evaluate

Pour exécuter la démo, obtenez un espace de travail Databricks gratuit et exécutez les deux commandes suivantes dans un carnet Python :

%pip installez dbdemos

import dbdemos
dbdemos.install('llm-fine-tuning', catalog='main', schema='dbdemos_llm_fine_tuning')