Mlflow administré

Managed MLflow sur Databricks fournit un suivi des expériences, une observabilité, une évaluation des performances et une gestion des modèles de pointe pour tout le spectre de l'apprentissage automatique et de l'IA, des modèles classiques et de l'apprentissage profond aux applications et aux agents d'IA générative, le tout de manière native dans la plateforme Databricks Data + AI. Il repose sur la base open-source MLflow et est renforcé par une fiabilité, une sécurité et une évolutivité de niveau entreprise. Les principales fonctionnalités incluent le suivi des expériences, l'évaluation des modèles pour ML et DL, un registre de modèles intégré à Unity Catalog et un déploiement à grande échelle via Databricks Model Serving.

Managed MLflow est conçu pour les équipes de science des données, d'ingénierie ML et de développement IA qui ont besoin de suivre, d'évaluer et de tout gouverner dans un seul flux de travail, des modèles de ML et d'apprentissage profond classiques aux agents et aux applications d'IA générative. Il est conçu pour les entreprises qui souhaitent gouverner et protéger les actifs IA et de données tout en utilisant leurs outils, leurs frameworks et leurs langages préférés dans l'ensemble de l'écosystème IA et ML. Parce qu'il unifie le suivi des expériences, la gestion des prompts et l'empaquetage dans un seul flux de travail, il convient aux organisations qui auraient autrement besoin de réunir des outils distincts pour le développement ML classique et GenAI.

Managed MLflow fournit les mêmes API ouvertes MLflow, suivi, évaluation et registre des modèles, mais remplace le serveur de suivi auto-hébergé par un serveur entièrement géré, et ajoute des fonctionnalités que le tableau de comparaison montre comme étant exclusives à l'offre Managed MLflow, y compris la surveillance de la production, des tableaux de bord d'observabilité personnalisables, une haute disponibilité et des mises à jour automatisées. Il s'intègre également de manière native à Unity Catalog pour la gouvernance d'entreprise, les workflows d'approbation basés sur les rôles et les intégrations de workflows CI/CD entre les modèles et les agents. Parce qu'il repose sur MLflow, une plateforme open-source, avec plus de 800 contributeurs communautaires, plus de 25 millions de téléchargements de packages mensuels et plus de 5 000 organisations qui l'utilisent, vous conservez une flexibilité totale entre les frameworks et les langages, tout en bénéficiant d'une expérience entièrement gérée.

Le traçage des agents est le processus qui consiste à capturer chaque étape effectuée par un agent IA pendant l'exécution, y compris les entrées, les sorties, les appels d'outils, les étapes de récupération et les invites LLM, afin de donner aux développeurs une image complète du comportement de l'agent. Dans Managed MLflow, le traçage repose sur une base compatible avec OpenTelemetry, pour que chaque interaction soit enregistrée avec une fidélité totale et sans dépendance d'un fournisseur.

L'observabilité des agents IA est la capacité de surveiller, d'évaluer et de comprendre en permanence le comportement des agents IA dans des conditions réelles, et pas seulement pendant le développement. Cela englobe le traçage des exécutions individuelles, le suivi des mesures de qualité dans le temps, la détection de problèmes tels que les fuites d'informations personnelles ou les hallucinations, et la réponse à la dégradation des performances avant qu'elle n'affecte les utilisateurs.

La plupart des outils de traçage autonomes nécessitent une infrastructure séparée, manquent de capacités d'évaluation natives et créent des silos de données déconnectés de votre registre de modèles et de votre pipeline de déploiement. MLflow Tracing se différencie par sa fondation open-source (éliminant le verrouillage d'un fournisseur), son intégration étroite avec le suivi des expériences, le versionnage de prompts et l'évaluation par des juges LLM, et sa capacité à interroger des données de suivi avec SQL et Databricks AI/BI, ce qui en fait une solution de traçage qui est également une plateforme d'observabilité complète pour l'ensemble du cycle de vie de l'IA et du ML.

Les traces d'agent contiennent des informations sensibles par conception : elles capturent les entrées brutes, les documents récupérés, les paramètres d'appel d'outils et les sorties de modèles, qui peuvent inclure des données personnelles, des données propriétaires ou un contexte commercial confidentiel. Un outil de traçage de production doit appliquer des contrôles d'accès basés sur les rôles sur les données de traçage, prendre en charge les exigences de résidence des données et s'intégrer à votre cadre de gouvernance plus large. Managed MLflow résout ce problème grâce à l'intégration native de Unity Catalog, qui fournit des contrôles d'accès fins, un lignage complet des données et une journalisation d'audit sur toutes les données de trace, garantissant que l'observabilité ne se fait pas au prix de la conformité.

Vous pouvez essayer Databricks gratuitement pour commencer à utiliser Managed MLflow, ou planifier une démonstration avec l'équipe Databricks si vous souhaitez d'abord être guidé. Une fois que vous êtes dans la plateforme, le Guide de démarrage rapide et la documentation Managed MLflow GenAI et machine learning vous guident dans la configuration du suivi et du traçage des expériences et du registre des modèles. Cette page ne répertorie pas les tarifs ni les niveaux de plans spécifiques, il est donc préférable de confirmer les détails des coûts lors de l'inscription à l'essai gratuit ou en conversant avec Databricks.