Formazione del Modello AI Mosaic: Perfeziona il tuo LLM su Databricks per Compiti e Conoscenze Specializzate

I Foundation LLMs eccellono nella conoscenza globale e nei compiti generici. Tuttavia, molti casi d'uso richiedono conoscenze o comportamenti specifici. 

Con Databricks, puoi facilmente perfezionare e implementare versioni specializzate di OSS LLM che supererebbero i modelli di base:

• Distribuisci e gestisci LLM più piccoli, superando quelli più grandi riducendo i costi e garantendo privacy/sicurezza
• Allena LLM sulle tue proprie conoscenze aziendali personalizzate
• Modifica il comportamento dell'LLM per eseguire meglio compiti specifici come il riconoscimento di entità nominate (NER).

In questo tutorial, imparerai come:

• Prepara un dataset pulito per l'allenamento e la valutazione
• Sfrutta l'addestramento del modello AI di Databricks Mosaic per personalizzare un esistente LLM OSS (Mistral, Llama, DBRX...)
• Distribuisci questo modello su un punto di terminazione di Model Serving, fornendo inferenze in tempo reale
• Valuta e confronta il modello Fine Tuned con il suo punto di riferimento, sfruttando MLflow Evaluate

Per eseguire la demo, ottieni un spazio di lavoro Databricks gratuito ed esegui i seguenti due comandi in un notebook Python:

%pip installa dbdemos

importa dbdemos
dbdemos.installa('llm-fine-tuning', catalogo='main', schema='dbdemos_llm_fine_tuning')