Databricks na Databricks - Transformando a Experiência de Vendas usando Agentes GenAI

Na Databricks, nossa visão de automação é automatizar todos os aspectos do negócio, tornando-o melhor, mais rápido e mais barato.  Para as equipes de vendas, estamos transformando digitalmente nossa experiência de vendedor, fornecendo agentes genAI que auxiliam o vendedor em todo o ciclo de vendas.  Nosso objetivo é aprimorar a experiência do vendedor com capacidades de IA, integrando-as perfeitamente em suas tarefas diárias e fornecendo uma maneira mais simples e eficaz para os vendedores recuperarem ativos de informação, bem como orquestrar ações automatizando tarefas administrativas manuais repetitivas.  

Nosso "Assistente de IA de Campo" é construído com base no framework agente de IA Mosaic da Databricks e oferece uma maneira para os vendedores consultarem e interagirem com dados de várias fontes.  Ele se integra com várias plataformas-chave, incluindo:

1. Nossa Databricks Lakehouse interna para inteligência de contas, conteúdo de habilitação de vendas e playbooks de vendas
2. Nossa Plataforma de Gestão de Relacionamento com o Cliente (CRM)
3. Nossa Plataforma de Colaboração coleta e indexa a maioria dos nossos dados não estruturados

A aplicação de IA é usada para:

• Interaja conversacionalmente com dados de várias fontes de dados usando linguagem natural (começando com o inglês)
• Capacidade de baixar e criar documentos com base nas informações coletadas 
• Tome ações com base nas percepções dos dados (atualize campos em nosso CRM, redija um e-mail de prospecção personalizado, crie uma proposta personalizada para o cliente, prepare-se para uma reunião com o cliente, etc. 

O assistente de campo responde a prompts semeados com base no contexto do usuário e da página e também fornece uma interface semelhante a um chat para consultas abertas sobre os conjuntos de dados mencionados acima.

Impacto nos Negócios 

Vendedores geralmente se sentem sobrecarregados com o volume de informações lançadas a eles.  Eles precisam de acesso a dados que residem em várias aplicações isoladas, como parte de sua rotina diária normal.  Eles precisam de fácil acesso à conta, oportunidade e dados de casos de uso que residem em nosso CRM, bem como insights de mercado do cliente e inteligência de conta, incluindo dados de consumo da conta que residem em nosso lakehouse.  Além disso, eles também precisam de acesso ao conteúdo de vendas - playbooks de habilitação, material de vendas competitivo, bem como artigos da base de conhecimento do produto e documentos do roadmap do produto.  Não se limita apenas à recuperação de dados, mas os verdadeiros ganhos de eficiência ocorrem quando as tarefas manuais repetitivas que eles realizam diariamente com base nas informações que recuperam podem ser totalmente automatizadas.  É exatamente isso que o assistente de IA de campo faz - ajuda os vendedores nas tarefas do dia a dia, incluindo recuperação de informações, destilação de insights a partir das informações e realização de ações com base nesses insights. 

Visão Geral da Solução

Usando o framework de agentes AI Mosaic da Databricks, construímos um assistente de campo AI integrando dados estruturados e não estruturados de várias fontes de dados. A solução fornece uma abordagem abrangente personalizada e adaptada para nossos vendedores, disponível sob demanda em nosso CRM. Algumas das capacidades oferecidas incluem: 

Insights do cliente fornecem uma visão completa da conta do cliente com: 

• Notícias/insights financeiros sobre a conta
• Panorama de dados competitivos 
• Consumo do produto por linha de produto e nuvem 
• Casos de suporte ao cliente 
• Principais Casos de Uso Gerando Receita
• Recomendações do vendedor sobre outros casos de uso que são oferecidos a clientes semelhantes 

Alertas de higiene de dados 

• Casos de uso que entrarão em vigor na próxima semana/mês/trimestre
• Principais obstáculos de uso 
• Casos de uso que carecem de informações chave (ou seja, patrocinador executivo de negócios, etc.)

Material de vendas 

• Playbooks de vendas 
• Material de apoio competitivo
• Resumo de reuniões 
• Pitch decks 

Orquestrar ação

• Atualizar o CRM com os próximos passos em oportunidades ou casos de uso específicos 
• Redigir um e-mail de prospecção para um novo contato de cliente 
• Criar uma proposta voltada para o cliente 

Nossa solução de assistente de IA de campo é construída inteiramente em nossa pilha de tecnologia Databricks. Ela permite a integração em várias e diversas fontes de dados e fornece uma estrutura de infraestrutura escalável para recuperação de dados, solicitação e gerenciamento de LLM. É construída usando o framework agente de IA composto e suporta a adição de várias ferramentas (consultas SQL, funções Python) que são todas governadas através de nossa camada de governança do Catálogo Unity.

Framework de Agente / Ferramenta

As entradas humanas são inerentemente ambíguas; os LLMs agora nos deram a capacidade de usar o contexto para interpretar a intenção de uma solicitação e convertê-la em algo mais determinístico. Para atender à solicitação, pode ser necessário recuperar fatos específicos, executar código e aplicar um framework de raciocínio baseado em transformação previamente aprendida. Todas essas informações devem ser remontadas em uma saída coerente que esteja formatada corretamente para quem (ou o que) irá consumi-la.  

É exatamente isso que o assistente de IA de campo faz para responder às consultas dos vendedores.  O assistente de IA de campo tem 1 agente de direção e várias ferramentas e funções que realizam o processamento determinístico.  

• Fundação de dados:  Este é o conjunto de fontes de dados com as quais o agente interage. Em nossa solução, essa fundação de dados inclui dados em nosso Lakehouse, material de vendas, Google docs, bem como dados que residem em nosso CRM (Salesforce). 
• Processamento determinístico: O conjunto de funções e ferramentas necessárias para produzir respostas corretas e de alta qualidade. O LLM pode extrair campos de uma consulta e passá-los para uma chamada de função padrão para fazer o processamento determinístico. Dentro da Plataforma Databricks, o Ferramentas e Funções Mosaic AI permitem isso e funções definidas pelo usuário podem realizar a maioria das atividades dentro do Databricks. Estas podem ser tipicamente funções Python ou consultas SQL simples ou APIs que se integram com aplicativos externos como Glean, Perplexity, Aha etc. e estas podem ser invocadas usando linguagem natural.
• Modelos LLM: Nós utilizamos o Azure OpenAI, GPT 4 como o modelo base para a solução de assistente de IA de campo. Dito isso, o framework suporta uma abordagem de multi-modelo onde as capacidades específicas de cada modelo são avaliadas em relação a como lidam com casos de uso específicos. Por exemplo, avaliamos nossa solução com vários modelos de código aberto e escolhemos o Azure Open AI - GPT 4 como o modelo para nossa solução com base na solidez do modelo, sua capacidade de gerar conteúdo factual e relevante, sua capacidade de escolher a função / ferramenta definida pelo usuário correta para processar cada prompt, e sua capacidade de aderir ao formato de saída de conteúdo fornecido ao modelo.  

Dito isso, nossa arquitetura de solução é projetada para permitir flexibilidade na adoção de novos modelos à medida que eles se tornam disponíveis em nosso framework de agente de IA Mosaic. 

Na Databricks, nós aproveitamos o Framework de Agente de IA Mosaic que facilita a construção de uma aplicação genAI como o assistente de IA de campo. Usando este framework, definimos critérios de avaliação e utilizamos a capacidade de LLM-como-juiz para pontuar as respostas da aplicação. O Gateway de IA Mosaic fornece controles de acesso, limitação de taxa, registro de carga útil e guardrails (filtragem para entradas e saídas do sistema). O gateway dá ao usuário monitoramento constante dos sistemas em execução para monitorar segurança, viés e qualidade. 

Os componentes que utilizamos para o nosso assistente de campo AI são:

• Incorporação de modelos e bancos de dados vetoriais (Mosaic AI Vector Search)
• Interface de uso de chamada de função e ferramenta (Chamada de Função de IA Mosaic)
• Personalização de LLMs por solicitação ou ajuste fino (MLFlow LLMOps, DSPy na Databricks, Ajuste Fino de IA Mosaic)
• Monitoramento, limitação de taxa e guardrails (Gateway AI Mosaic)
• Catálogo Unity para descoberta, governança e catalogação do conjunto de dados subjacente, agente e ferramentas

Arquitetura da Solução

Nossos Aprendizados

Os dados são bagunçados - Aproveitamos o Lakehouse, expansão iterativa de conjuntos de dados, focamos em pipelines de engenharia de dados e na construção de conjuntos de dados GOLD limpos, Única Fonte de Verdade 

Medir o ROI é difícil - Esteja preparado para experimentar com pequenos grupos focais no piloto. Construir conjuntos de dados de avaliação para medir a eficácia do modelo é difícil e requer esforço focado e uma estratégia que suporte experimentação rápida

A Governança de Dados e IA é OBRIGATÓRIA - Engaje cedo com as equipes de Segurança Empresarial, Privacidade e Jurídica. Construa um modelo de governança forte no Catálogo Unity para os dados, bem como para os agentes e ferramentas 

Conclusão

Através deste post, esperamos que você tenha aprendido sobre nossa jornada Databricks no Databrick's GenAI e como aproveitamos tecnologias como essa para ajudar nossos vendedores a serem mais eficazes.  A utilização do GenAI para este caso de uso ajudou a mostrar como os agentes de IA podem transformar e auxiliar significativamente todos os aspectos da jornada do vendedor, desde a prospecção e recuperação de insights do cliente, melhorando a higiene dos dados ao automatizar tarefas manuais repetitivas e agindo sobre esses insights de dados para impulsionar oportunidades e melhorar a velocidade de vendas. 

Fique ligado para nossas próximas postagens, onde continuaremos a compartilhar nossas experiências sobre como a IA está remodelando a experiência do vendedor na Databricks.

(This blog post has been translated using AI-powered tools) Original Post