Treinamento de Modelo de IA Mosaic: Ajuste Fino do seu LLM no Databricks para Tarefas e Conhecimentos Especializados

Os LLMs de base se destacam em conhecimento global e tarefas genéricas. No entanto, muitos casos de uso requerem conhecimento ou comportamento específico. 

Com o Databricks, você pode facilmente ajustar e implantar versões especializadas do LLM OSS que superariam os modelos de base:

• Implante e gerencie LLMs menores, superando os maiores enquanto reduz custos e reforça a privacidade/segurança
• Treine o LLM com o seu próprio conhecimento de negócios personalizado
• Altere o comportamento do LLM para executar melhor tarefas específicas, como reconhecimento de entidades nomeadas (NER).

Neste tutorial, você aprenderá como:

• Prepare um conjunto de dados de treinamento e avaliação limpo
• Aproveite o Treinamento de Modelo de IA Mosaic Databricks para personalizar um LLM OSS existente (Mistral, Llama, DBRX...)
• Implante este modelo em um ponto de extremidade de Serviço de Modelo, fornecendo inferências ao vivo
• Avalie e compare o modelo Fine Tuned com sua base, utilizando o MLflow Evaluate

Para executar a demonstração, obtenha uma área de trabalho Databricks gratuita e execute os dois comandos seguintes em um notebook Python:

%pip instale dbdemos

importe dbdemos
dbdemos.install('llm-fine-tuning', catálogo='main', esquema='dbdemos_llm_fine_tuning')