Gateway do Mosaic AI
Gerencie e governe todos os modelos de GenAI em toda a empresa
Acesso seguro a qualquer modelo de IA
O Gateway do Mosaic AI protege seus dados e implantações de GenAI por meio de governança centralizada em todos os modelos da sua empresa. Com suporte para qualquer modelo de endpoint, incluindo Azure OpenAI, Amazon Bedrock on AWS e Meta Llama 3, o AI Gateway permite aproveitar inovações de ponta por meio de uma interface de query única e poderosa. Com o AI Gateway, você pode testar e trocar facilmente novos modelos sem exigir alterações na sua base de código. Ele captura o rastreamento de uso no Unity Catalog, com permissões impostas para evitar vazamentos de dados confidenciais. Além disso, com insights de gastos em tempo real, o AI Gateway mantém suas finanças sob controle e suas operações simplificadas.
Acesso unificado a todos os modelos de IA
O Gateway do Mosaic AI oferece acesso unificado a uma ampla variedade de modelos, incluindo LLMs externos, como OpenAI e Meta Llama 3, por meio de uma única interface de query padrão. Isso elimina a necessidade de manter sistemas separados para gerenciar o tráfego de IA. As empresas podem alternar sem esforço entre modelos básicos e personalizados, garantindo pipelines ininterruptos e manutenção simplificada.
Segurança e governança avançadas
Adotar o GenAI significa navegar por protocolos de segurança complexos, padrões de governança de dados e controles de acesso. O AI Gateway simplifica esse processo capturando dados que fluem por meio de APIs de modelo — como logs de carga útil, rastreamento de uso e ativação de guardrail — no Unity Catalog para armazenamento, compartilhamento e gerenciamento seguros. Com governança centralizada e proteções personalizadas, como filtragem de conteúdo e detecção de PII, ele garante segurança e conformidade consistentes em todos os endpoints, protegendo as informações mais críticas da sua organização.
Melhoria da precisão do modelo
Eleve a qualidade do seu modelo com nossas robustas ferramentas de observabilidade que capturam dados detalhados de solicitações e respostas. O registro de carga útil permite depurar, ajustar e aprimorar modelos, melhorando a precisão e reduzindo a latência. Isso garante que seus aplicativos de IA tenham o melhor desempenho e forneçam resultados ideais.
Supervisão de gastos
Nossas ferramentas de observabilidade oferecem rastreamento detalhado do uso e supervisão de gastos. Com insights em tempo real sobre suas operações de IA, você pode monitorar despesas, otimizar a alocação de recursos e garantir um desempenho eficiente. Essas ferramentas ajudam você a manter o controle financeiro enquanto maximizam a eficácia de suas implantações de IA.
Comece a usar estes recursos
Blogs e demonstrações
Documentação
e-books
Pronto para se tornar uma empresa de dados + IA?
Dê os primeiros passos na transformação dos seus dados