Distribuisci Llama 2 con Databricks Lakehouse AI

Scopri come scaricare e servire i modelli Llama 2 dal Marketplace di Databricks.

I modelli di chat Llama 2 foundation sono ora disponibili nel Marketplace di Databricks per il perfezionamento e il dispiegamento su endpoint di servizio di modelli privati.

Ogni modello è avvolto in MLflow e salvato all'interno del Catalogo Unity, rendendo facile l'utilizzo della valutazione MLflow nei notebook e il deploy con un solo clic sui punti di servizio del modello GPU ottimizzati per LLM.

Questi endpoint sono preconfigurati e accelerati per servire modelli fondamentali, fornendo il miglior rapporto costo/prestazioni.