Revenir au contenu principal

Passerelle Mosaic AI

Assurer la gestion et la gouvernance de tous les modèles d'IA générative à travers toute l'entreprise

Sécurisez l'accès à tout type de modèle d'IA

La passerelle Mosaic AI protège vos données et vos déploiements d'IA générative grâce à une gouvernance centralisée couvrant tous les modèles de votre entreprise. Compatible avec tous les points de terminaison, dont Azure OpenAI, Amazon Bedrock sur AWS et Meta Llama 3, la passerelle vous permet d'exploiter des innovations de pointe au moyen d'une interface de requête unique et puissante. Avec la passerelle IA, vous pouvez facilement tester de nouveaux modèles et les interchanger sans modifier votre base de code. Elle assure le suivi de l'utilisation dans Unity Catalog et applique les permissions pour empêcher les fuites de données sensibles. Et en fournissant des informations en temps réel sur vos dépenses, la passerelle AI vous aide à garder le contrôle de vos finances tout en rationalisant vos opérations.

Mosaic AI Gateway: Usage tracking and observibility, Payload logging, Gaurdrails, A/B testing and traffic policies, Granular rate limiting, Fine-grained permissions and UC Integration. Mosaic AI Model Serving: External models, databricks Hosted, Agent/chain

Accès unifié à tous les modèles d'IA

Avec son interface de requête unique et standardisée, la passerelle Mosaic AI offre un accès unifié à un large éventail de modèles, y compris des modèles externes comme OpenAI et Meta Llama 3. Grâce à cette approche, les équipes n'ont pas besoin de maintenir des systèmes différents pour gérer le trafic IA. Les entreprises peuvent ainsi basculer sans effort entre les modèles personnalisés et de fondation, garantissant ainsi une maintenance simplifiée et la continuité des pipelines.

Sécurité et gouvernance sophistiquées

Adopter l'IA générative, c'est prendre en charge des protocoles de sécurité, des normes de gouvernance des données et des contrôles d'accès d'une grande complexité. La passerelle IA simplifie ces aspects en consignant dans Unity Catalog les données qui traversent les API des modèles (journaux de charges utiles, suivi d'utilisation, activation des garde-fous). Ces données peuvent ainsi être stockées, partagées et gérées en toute sécurité. Grâce à la centralisation de la gouvernance et à des garde-fous tels que le filtrage de contenu et la détection des données sensibles, la passerelle garantit l'application systématique des règles de sécurité et de conformité sur l'ensemble des points de terminaison. Cela permet de protéger les informations stratégiques de votre organisation.

Précision accrue des modèles

Rehaussez la qualité de vos modèles grâce à nos outils d'observabilité robustes qui capturent des données détaillées de requête et de réponse. La journalisation des charges utiles vous permet de débuguer, d'ajuster et de perfectionner les modèles pour améliorer leur précision et réduire la latence. Le résultat : des applications d'IA performantes qui délivrent des résultats optimaux.

Supervision des coûts

Nos outils d'observabilité assurent un suivi détaillé de l'utilisation et des coûts. Grâce aux informations qu'ils fournissent en temps réel sur vos opérations d'IA, vous pouvez surveiller les dépenses, optimiser l'affectation des ressources et garantir la rentabilité des performances. Ces outils permettent de garder le contrôle sur votre budget tout en maximisant l'efficacité de vos déploiements d'IA.

Prêts à devenir une entreprise axée sur les données et l'IA ?

Faites le premier pas de votre transformation data