Mosaic AI Agent Framework
Crie aplicativos de geração aumentada de recuperação (RAG) com qualidade de produção
A geração aumentada de recuperação (RAG) é um padrão de aplicação de IA generativa que encontra dados/documentos relevantes para uma pergunta ou tarefa e os fornece como contexto para grandes modelos de linguagem (LLMs) darem respostas mais precisas.
O Mosaic AI Agent Framework é um conjunto de ferramentas projetado para ajudar os desenvolvedores a criar e implantar aplicativos de IA generativa de alta qualidade usando a RAG para obter resultados que são consistentemente medidos e avaliados para serem precisos, seguros e controlados. Com o Mosaic AI Agent Framework, é mais fácil para os desenvolvedores avaliar a qualidade de um aplicativo RAG, iterar rapidamente com a capacidade de testar hipóteses, reimplantar o aplicativo com facilidade e ter a governança e as barreiras apropriadas para garantir a qualidade contínua.
A mais alta qualidade de produção
O Mosaic AI Agent Framework ajuda as organizações a implantar aplicativos de GenAI com qualidade de produção para resultados que são consistentemente medidos e avaliados para serem precisos, seguros e controlados. O Mosaic AI Agent Framework possui avaliação assistida por IA proprietária integrada que pode determinar automaticamente se as saídas são de alta qualidade, bem como uma interface de usuário intuitiva para obter feedback das partes interessadas humanas.
Rápida iteração de desenvolvimento
O Mosaic AI Agent Framework facilita que os desenvolvedores recebam feedback sobre o aplicativo de GenAI e repitam rapidamente as mudanças para testar todas as hipóteses. Em seguida, eles podem reimplantar o aplicativo na produção sem alterações no código, usando um fluxo de trabalho LLMOps de ponta a ponta. Os desenvolvedores podem iterar em todos os aspectos do processo RAG: da preparação de dados, bancos de dados vetoriais e implantação de modelos até o monitoramento, a segurança e a governança.
Governança e proteções
O Mosaic AI Agent Framework é perfeitamente integrado ao restante da Databricks Data Intelligence Platform. Isso significa que você tem tudo o que precisa para implantar um sistema RAG de ponta a ponta, de segurança e governança até integração de dados, bancos de dados vetoriais, avaliação de qualidade e implantação otimizada com um clique. Com a governança e as barreiras implementadas, você também pode evitar respostas tóxicas e garantir que seu aplicativo siga as políticas da sua organização.
Pipelines automatizados em tempo real para qualquer tipo de dados
O Mosaic AI oferece suporte nativo à exibição e indexação dos seus dados para recuperação online. Para dados não estruturados (texto, imagens e vídeo), o Vector Search indexa e disponibiliza dados automaticamente, tornando-os acessíveis para aplicativos RAG sem a necessidade de criar pipelines de dados separados. Nos bastidores, o Vector Search gerencia falhas, lida com novas tentativas e otimiza os tamanhos de batch para fornecer o melhor desempenho, rendimento e custo. Para dados estruturados, a disponibilização de recursos e funções fornece queries de milissegundos de dados contextuais, como dados do usuário ou da conta, que as empresas muitas vezes desejam injetar em prompts para personalizá-los com base nas informações do usuário.
