Um Novo Padrão em IA de Código Aberto: Meta Llama 3.1 no Databricks

Estamos animados em fazer parceria com a Meta para lançar a série de modelos Llama 3.1 no Databricks, avançando ainda mais o padrão de modelos abertos poderosos. Com o Llama 3.1, as empresas agora podem construir os aplicativos GenAI de mais alta qualidade sem sacrificar a propriedade e a personalização pela qualidade. Na Databricks, compartilhamos o compromisso da Meta em acelerar a inovação e construir sistemas mais seguros com modelos de linguagem abertos, e estamos entusiasmados em disponibilizar a suíte de novos modelos para clientes corporativos desde o primeiro dia.

Integrámos nativamente o Llama 3.1 na Databricks, facilitando aos clientes a construção de suas aplicações com ele. A partir de hoje, os clientes da Databricks podem usar o Mosaic AI para servir e ajustar os modelos Llama 3.1, conectá-los sem problemas aos sistemas de Geração Aumentada de Recuperação (RAG) e agentes, gerar facilmente dados sintéticos para seus casos de uso e aproveitar os modelos para avaliação escalável. Essas capacidades permitem que as empresas aproveitem ao máximo os dados únicos de sua organização com o modelo de código aberto de maior qualidade para construir aplicações GenAI em escala de produção.

"Acredito que a IA de código aberto se tornará o padrão da indústria e é o caminho a seguir. A parceria com o Databricks no Llama 3.1 significa que recursos avançados como geração de dados sintéticos e inferência em lote em tempo real são mais acessíveis para desenvolvedores em todos os lugares. Estou ansioso para ver o que as pessoas vão construir com isso."

— Mark Zuckerberg, Fundador & CEO, Meta

O que há de novo nos modelos Llama 3.1?

Os modelos Llama 3.1 são os modelos abertos mais capazes até o momento e introduzem muitas novas capacidades, incluindo:

• Meta Llama 3.1-405B-Instruct é o modelo aberto de maior qualidade no mundo atualmente. Ele apresenta uma capacidade de raciocínio incomparável, dirigibilidade e conhecimento geral que rivalizam com os melhores modelos de IA. Essas capacidades permitem a construção de aplicações complexas anteriormente impossíveis com modelos abertos.
• Qualidade aprimorada dos modelos 8B e 70B existentes, já utilizados por mais de mil clientes Databricks. No Databricks, você pode facilmente migrar para os novos modelos e se beneficiar instantaneamente da qualidade aprimorada sem qualquer alteração.
• Expansão do comprimento do contexto para 128k tokens, permitindo a análise de grandes conjuntos de dados e melhorando as aplicações RAG ao reduzir alucinações através do acesso a um contexto mais relevante.
• Suporte em 8 idiomas, permitindo que as empresas alcancem e se envolvam com uma base de clientes mais ampla de forma eficaz.
• Melhoria no uso de ferramentas e chamada de funções, permitindo a criação de fluxos de trabalho agentes complexos de várias etapas que podem automatizar tarefas sofisticadas e responder a consultas complexas.
• Modelo LlamaGuard atualizado e Modelos de Segurança, possibilitando o uso seguro e responsável de Sistemas de IA Compostos para casos de uso empresarial.

Desenvolvendo com Llama 3.1 na Databricks Mosaic AI

Experimente com Llama 3.1 e Outros Modelos de Fundação

A família de modelos Llama 3.1 agora está disponível no catálogo system.ai (dentro do Catálogo Unity) e pode ser facilmente acessada em Serviço de Modelos AI Mosaic usando a mesma API e SDK unificadas que funcionam com outros Modelos de Fundação. A interface unificada permite que você experimente facilmente, alterne entre e implante modelos dentro da coleção Llama 3.1 e os compare com outros modelos de fundação de qualquer provedor. Essa flexibilidade garante que você possa selecionar o melhor modelo para atender aos requisitos de qualidade, latência e custo de sua aplicação. Esses modelos estão disponíveis no Azure Databricks, bem como no Databricks no AWS.

Amplie o Llama 3.1 com Seus Dados Proprietários para Melhorar a Qualidade

Empresas no Databricks já estão usando Mosaic AI Model Training para personalizar os modelos Llama com seus dados únicos, especializando-os para contextos de negócios específicos e habilidades para construir modelos de maior qualidade. Os clientes agora podem se beneficiar da personalização dos novos modelos, aproveitando o comprimento de contexto estendido e a qualidade base melhorada dos modelos 8B e 70B, melhorando assim a qualidade geral do aplicativo e abrindo novos casos de uso. 

O Treinamento de Modelo agora também suporta o Llama 3.1 405B, permitindo que as empresas personalizem um modelo aberto com raciocínio e capacidades à altura dos principais modelos de IA. Essas atualizações serão implementadas em todas as regiões à medida que a capacidade for disponibilizada.

Implemente Agentes Inteligentes e Aplicações RAG com Llama 3.1

Aplicações RAG e Agentes são as aplicações GenAI mais populares em nossa plataforma, e estamos animados com as novas capacidades de uso de ferramentas no Meta Llama 3.1.

Com o recém-introduzido AI Mosaic Framework de Agente e Avaliação, as empresas podem usar o Meta Llama 3.1 para construir os sistemas de IA de maior qualidade, aprimorando-o com seus dados proprietários usando Busca Vetorial AI Mosaic. Oferecemos a única oferta de Busca Vetorial que está integrada de forma compacta à sua plataforma de dados, garantindo que todas as aplicações downstream sejam governadas e gerenciadas de forma segura por meio de uma única camada de governança, o Catálogo Unity. 

Além disso, os clientes já podem usar os modelos Llama para chamada de funçãoe as novas atualizações irão melhorar ainda mais a qualidade desses fluxos de trabalho.

Juntas, essas capacidades permitem que os desenvolvedores criem agentes personalizados e explorem novos comportamentos agentivos em uma única plataforma, desbloqueando um espectro mais amplo de casos de uso.

Acelere o Treinamento e Avaliação de Modelos com Geração de Dados Sintéticos

Com a licença permissiva do Llama 3.1 e a qualidade superior do modelo Llama 3.1-405B-Instruct, pela primeira vez, as empresas podem aprimorar seu ciclo de dados com dados sintéticos de alta qualidade. Em outras palavras, ao personalizar seu modelo com o Treinamento de Modelo, você pode automaticamente mostrar amostras do seu conjunto de dados para o modelo maior e pedir que ele gere dados semelhantes. 

Databricks facilita este fluxo de trabalho através da integração com a API do Modelo de Fundação e os serviços de Treinamento do Modelo de Fundação, que podem aumentar seu conjunto de dados do Catálogo Unity dentro dos limites seguros da Plataforma de Inteligência de Dados. Acreditamos que isso transformará a qualidade da personalização e impulsionará as aplicações empresariais GenAI.

Clientes Inovam com Databricks e Modelos Abertos

Muitos clientes Databricks já estão aproveitando os modelos Llama 3 para impulsionar suas iniciativas GenAI. Estamos todos ansiosos para ver o que eles farão com o Llama 3.1.

• "Com o Databricks, pudemos automatizar tarefas manuais tediosas usando LLMs para processar mais de um milhão de arquivos diariamente para extrair dados de transações e entidades de registros de propriedades. Excedemos nossas metas de precisão ao ajustar o Meta Llama3 8b e, usando o Mosaic AI Model Serving, escalamos massivamente esta operação sem a necessidade de gerenciar uma grande e cara frota de GPUs." - Prabhu Narsina, VP de Dados e IA, First American
• "Com o Databricks, conseguimos ajustar rapidamente e implantar de forma segura os modelos Llama para construir vários casos de uso GenAI como um simulador de conversação para treinamento de conselheiros e um classificador de fases para manter a qualidade da resposta. Essas inovações melhoraram nossas intervenções de crise em tempo real, ajudando-nos a escalar mais rápido e fornecer suporte crítico de saúde mental para aqueles em crise." - Matthew Vanderzee, CTO, Crisis Text Line
• "Com a plataforma unificada de dados e IA do Databricks e modelos abertos como o Meta Llama 3, removemos silos e simplificamos o deployment, permitindo-nos implantar sistemas GenAI em produção 20 vezes mais rápido. Isso nos permitiu integrar o GenAI mais profundamente em nossa superfície de produto, levando a melhorias em nosso produto geral, operações e eficiência geral." - Ian Cadieu, CTO, Altana
• "A Databricks está nos permitindo levar uma ideia à produção em tempo recorde. Ao usar modelos abertos menores e de última geração, como o Llama, e personalizá-los com nossos dados, criamos uma solução GenAI de alta qualidade e custo-efetivo. Notavelmente, isso foi desenvolvido por apenas uma pessoa e já está melhorando a produtividade de nossas equipes internas." - Thibault Camper, Cientista de Dados Sênior, Locala
• “O Mosaic AI e modelos abertos de última geração como o Llama 3 nos permitem criar e implantar de forma segura modelos personalizados com base em nossos próprios dados e regras de negócios. Isso está nos permitindo construir novos recursos GenAI, automatizando 63% das tarefas e permitindo que nossa equipe de desenvolvimento se concentre em inovação em vez de processos manuais.”  - Guilherme Guisse, Chefe de Dados e Análises, Orizon

Começando com o Llama 3.1 no Databricks Mosaic AI

Visite o AI Playground para experimentar rapidamente o Llama 3.1 diretamente do seu espaço de trabalho. Para mais informações, consulte os seguintes recursos:

• Leia o lançamento do Llama 3.1 post do blog 
• Explore o Modelo Base Guia de Início Rápido
• Aplique LLM em grandes lotes de dados com funções de IA
• Construa Aplicativos Agentic e RAG de qualidade de produção com Framework de Agente e Avaliação
• Veja a página de preços

Essas capacidades estão sendo implementadas em todas as geografias suportadas com base na disponibilidade de computação.