Pattern di architettura AI generativa
Costruisci un'AI generativa di qualità per qualsiasi pattern architettonico
Inizia a costruire le tue soluzioni di AI generativa
Ci sono quattro pattern architettonici da considerare quando si costruisce un modello linguistico di grandi dimensioni (LLM).
Databricks è l'unico fornitore che ti permette di costruire soluzioni di alta qualità a basso costo basate su tutti e quattro i pattern architettonici di AI generativa:
Ingegneria dei prompt
L'ingegneria dei prompt è la pratica di personalizzare i prompt per ottenere risposte migliori senza modificare il modello sottostante. L'ingegneria dei prompt è semplice con Databricks: potrai cercare modelli disponibili nella sezione Marketplace (compresi i modelli open source più diffusi, come Llama 2 e MPT), servire i modelli dietro un endpoint in Model Serving e valutare i prompt in un'interfaccia utente facile da usare con Playground o MLflow.
Retrieval Augmented Generation (RAG, Generazione potenziata dal recupero)
RAG trova dati e/o documenti rilevanti per una domanda o un compito e li fornisce come contesto al modello LLM per dare risposte più pertinenti.
Databricks dispone di una suite di strumenti RAG che ti aiuta a combinare e ottimizzare tutti gli aspetti del processo, come la preparazione dei dati, i modelli di recupero, i modelli linguistici (sia SaaS che open source), le pipeline di classificazione e post-elaborazione, l'ingegneria dei prompt e l'addestramento dei modelli su dati aziendali personalizzati.
Ottimizzazione
L'ottimizzazione adatta un modello LLM generico già esistente tramite un addestramento aggiuntivo che utilizza l'IP della tua organizzazione. Ottimizzare con Databricks è facile: puoi iniziare con il tuo modello LLM preferito (compresi quelli curati da Databricks come MPT-30B, Llama 2 e BGE) e fare un ulteriore addestramento su nuovi set di dati.
Pre-addestramento
Il pre-addestramento è la pratica che consente di costruire un nuovo modello LLM da zero per garantire che le conoscenze fondamentali del modello siano adattate al tuo settore specifico. Effettuando l'addestramento con i tuoi dati sull'IP della tua organizzazione, si crea un modello personalizzato e diverso da ogni altro. Databricks Mosaic AI Pretraining è una soluzione di addestramento ottimizzata che può costruire nuovi LLM con miliardi di parametri in pochi giorni e costi di addestramento fino a 10 volte inferiori.
Scegliere il pattern migliore
Questi pattern architettonici non si escludono a vicenda. Al contrario, possono (e devono) essere combinati per sfruttare i punti di forza di ciascuno nelle diverse implementazioni di AI generativa. Databricks è l'unico fornitore che abilita tutti e quattro i pattern architettonici di AI generativa, assicurandoti il maggior numero possibile di opzioni e la possibilità di evolvere in base alle esigenze della tua azienda.