Model Training
Ottimizza e pre-addestra i tuoi LLM e altri modelli di AI generativa
Ottimizza un LLM open source o crea LLM personalizzati addestrati sui tuoi dati aziendali con Mosaic AI Model Training. I modelli personalizzati costruiti con Model Training sono più veloci, producono risultati di qualità superiore che sono più specifici per il dominio e hanno costi fino a 10 volte inferiori rispetto ai LLM proprietari.
Estremamente preciso
Ottimizzare un LLM open source o creare un nuovo LLM con i dati aziendali porta a una maggiore comprensione semantica del business e a risposte estremamente accurate. Mosaic AI Model Training è disponibile in modo nativa in Databricks, così le organizzazioni possono ottimizzare o costruire modelli in modo facile e sicuro, senza spostare i propri dati. Governance, verificabilità, tracciabilità e monitoraggio sono garantiti, assicurando che i modelli siano utilizzati nel modo giusto e forniscano le risposte giuste. Tutto questo consente di ottenere risultati accurati, di qualità superiore e specifici per il contesto aziendale.
Scalabile senza sforzo
Un elemento chiave per l'addestramento ad alte prestazioni dei LLM è la scalabilità, che richiede una rete veloce a bassa latenza e l'accesso a GPU con prestazioni molto elevate. Usando Mosaic AI Model Training si ha automaticamente accesso sia alla rete NVIDIA InfiniBand sia a GPU NVIDIA H100 Tensor Core, le GPU NVIDIA dalle prestazioni più elevate, con performance e scalabilità ineguagliabili rispetto alle generazioni di hardware precedenti. Sarà così possibile scalare facilmente per addestrare modelli di grandi dimensioni (>70 miliardi di parametri) e completare le sessioni di addestramento nel giro di ore o al massimo di qualche giorno.
Economicamente vantaggioso
Mosaic AI Model Training è in grado di ottimizzare i LLM di GenAI open source più piccoli per produrre modelli altamente efficienti che possono essere distribuiti con un costo fino a 5 volte inferiore rispetto ai LLM proprietari più grandi. Inoltre, è possibile creare nuovi LLM da zero utilizzando uno stack software ottimizzato che rende economicamente vantaggioso l'addestramento di LLM. Una combinazione di ottimizzazioni a livello di sistema, strategie di parallelismo calibrate e scienza dell'addestramento dei modelli si traduce in un costo di addestramento 10 volte inferiore.
Sicuro e conforme
La sicurezza è fondamentale. La maggior parte delle organizzazioni non può correre il rischio di inviare i dati a un'API di terze parti, lasciando che siano diffusi o vengano utilizzati per addestrare un modello pubblico. Mosaic AI Model Training previene tale rischio perché consente alle organizzazioni di costruire il proprio LLM mantenendo il controllo e la proprietà completa sia sui dati sia sul modello stesso. Tutto viene crittografato di default, inclusi il traffico e tutti i dati di addestramento. Ciò garantisce la completa privacy dei dati e la totale proprietà del modello, soddisfacendo tutti i requisiti di conformità normativa.
