Déployez Llama 2 avec Databricks Lakehouse AI

Qu'allez-vous apprendre ?

Découvrez comment télécharger et servir des modèles Llama 2 depuis le Marketplace de Databricks.

Les modèles de chat de la fondation Llama 2 sont maintenant disponibles dans le Marketplace de Databricks pour l'ajustement fin et le déploiement sur des points de terminaison de service de modèle privé.

Chaque modèle est enveloppé dans MLflow et sauvegardé dans le Catalogue Unity, ce qui facilite l'utilisation de l'évaluation MLflow dans les notebooks et le déploiement en un seul clic sur les points de terminaison de service de modèle optimisé par LLM-GPU.

Ces points de terminaison sont pré-configurés et accélérés pour servir des modèles fondamentaux, offrant le meilleur rapport coût/performance.

Lancer la visite guidée du produit

Recommandations

<p>Build High-Quality RAG Apps with Mosaic AI Agent Framework and Agent Evaluation, Model Serving, and Vector Search</p>

Didacticiel

Build High-Quality RAG Apps with Mosaic AI Agent Framework and Agent Evaluation, Model Serving, and Vector Search

<p>Comment utiliser AutoML pour développer des modèles ML</p>

Vidéo à la demande

Comment utiliser AutoML pour développer des modèles ML

<p>Surveillance Lakehouse et Recherche Vectorielle</p>

Vidéo à la demande

Surveillance Lakehouse et Recherche Vectorielle