Pattern di architettura AI generativa
Costruisci un'AI generativa di qualità per qualsiasi pattern architettonico
![hero image](/en-website-assets/static/4637637e5501cb7fd548cced729280c9/db-vector-search-header-image_01705689651.png)
Inizia a costruire le tue soluzioni di AI generativa
Ci sono quattro pattern architettonici da considerare quando si costruisce un modello linguistico di grandi dimensioni (LLM).
Databricks è l'unico fornitore che ti permette di costruire soluzioni di alta qualità a basso costo basate su tutti e quattro i pattern architettonici di AI generativa:
![gen ai](/en-website-assets/static/260c72e89f63e47e0ef3464eb551d6d4/gen-ai-011705449459.png)
![gen ai](/en-website-assets/static/7dd850671cce87b67508f66ddf9d01c4/gen-ai-021705087424.png)
Ingegneria dei prompt
L'ingegneria dei prompt è la pratica di personalizzare i prompt per ottenere risposte migliori senza modificare il modello sottostante. L'ingegneria dei prompt è semplice con Databricks: potrai cercare modelli disponibili nella sezione Marketplace (compresi i modelli open source più diffusi, come Llama 2 e MPT), servire i modelli dietro un endpoint in Model Serving e valutare i prompt in un'interfaccia utente facile da usare con Playground o MLflow.
![gen ai](/en-website-assets/static/324ef6a6158e6be80f19985cc0a6f643/gen-ai-031705087565.png)
Retrieval Augmented Generation (RAG, Generazione potenziata dal recupero)
RAG trova dati e/o documenti rilevanti per una domanda o un compito e li fornisce come contesto al modello LLM per dare risposte più pertinenti.
Databricks dispone di una suite di strumenti RAG che ti aiuta a combinare e ottimizzare tutti gli aspetti del processo, come la preparazione dei dati, i modelli di recupero, i modelli linguistici (sia SaaS che open source), le pipeline di classificazione e post-elaborazione, l'ingegneria dei prompt e l'addestramento dei modelli su dati aziendali personalizzati.
![gen ai](/en-website-assets/static/3424e4fd200f1cb738dc7b19c1e9ae8d/gen-ai-041705087636.png)
Ottimizzazione
L'ottimizzazione adatta un modello LLM generico già esistente tramite un addestramento aggiuntivo che utilizza l'IP della tua organizzazione. Ottimizzare con Databricks è facile: puoi iniziare con il tuo modello LLM preferito (compresi quelli curati da Databricks come MPT-30B, Llama 2 e BGE) e fare un ulteriore addestramento su nuovi set di dati.
![gen ai](/en-website-assets/static/7a54f0dc4838fabbfeed72d5ed988c6a/gen-ai-061705087800.png)
Pre-addestramento
Il pre-addestramento è la pratica che consente di costruire un nuovo modello LLM da zero per garantire che le conoscenze fondamentali del modello siano adattate al tuo settore specifico. Effettuando l'addestramento con i tuoi dati sull'IP della tua organizzazione, si crea un modello personalizzato e diverso da ogni altro. Databricks Mosaic AI Pretraining è una soluzione di addestramento ottimizzata che può costruire nuovi LLM con miliardi di parametri in pochi giorni e costi di addestramento fino a 10 volte inferiori.
![gen ai](/en-website-assets/static/6d1f837aff6ae65e69f11a209c4f41c8/gen-ai-051705087880.png)
Scegliere il pattern migliore
Questi pattern architettonici non si escludono a vicenda. Al contrario, possono (e devono) essere combinati per sfruttare i punti di forza di ciascuno nelle diverse implementazioni di AI generativa. Databricks è l'unico fornitore che abilita tutti e quattro i pattern architettonici di AI generativa, assicurandoti il maggior numero possibile di opzioni e la possibilità di evolvere in base alle esigenze della tua azienda.