Anunciando o Databricks AI Security Framework 2.0

Estamos animados em anunciar a segunda edição do Databricks AI Security Framework (DASF 2.0—baixe agora)! Organizações que buscam aproveitar o potencial da IA precisam tanto do 'gás' da inovação quanto dos 'freios' da governança e gestão de riscos. O DASF preenche essa lacuna, permitindo implantações seguras e impactantes de IA para sua organização, servindo como um guia abrangente sobre gestão de riscos de IA.

Este blog fornecerá uma visão geral do DASF, explorará as principais percepções obtidas desde que a versão original foi lançada, introduzirá novos recursos para aprofundar seu entendimento sobre a segurança da IA e fornecerá atualizações sobre nossos colaboradores da indústria.

O que é o Databricks AI Security Framework e o que há de novo na versão 2.0? 

O DASF é um framework e um whitepaper para gerenciar riscos de segurança e governança de IA. Ele enumera os 12 componentes canônicos do sistema de IA, seus respectivos riscos e controles acionáveis para mitigar cada risco. Criado pelas equipes de Segurança e ML da Databricks em parceria com especialistas do setor, ele preenche a lacuna entre as equipes de negócios, dados, governança e segurança com ferramentas práticas e estratégias acionáveis para desmistificar a IA, promover a colaboração e garantir a implementação eficaz.

Ao contrário de outros frameworks, o DASF 2.0 se baseia em padrões existentes para fornecer um perfil de risco de ponta a ponta para implantações de IA. Ele oferece controles de defesa em profundidade para simplificar a gestão de riscos de IA para sua organização operacionalizar e pode ser aplicado à sua plataforma de dados e IA escolhida. 

No DASF 2.0, identificamos 62 riscos de segurança técnica e os mapeamos para 64 controles recomendados para gerenciar o risco de modelos de IA. Também expandimos os mapeamentos para os principais frameworks e padrões de risco de IA do setor, incluindo MITRE ATLAS, OWASP LLM & ML Top 10, NIST 800-53, NIST CSF, HITRUST, Algoritmos de Segurança ML da ENISA, ISO 42001, ISO 27001:2022, e o Ata de IA da UE. 

Operacionalizando o DASF - confira o novo compêndio e o vídeo instrucional complementar!

Recebemos feedback valioso ao compartilhar o DASF em eventos do setor, workshops e reuniões com clientes. Muitos de vocês pediram mais recursos para facilitar a navegação no DASF, operacionalizá-lo e mapear seus controles de forma eficaz. 

Em resposta, estamos animados em anunciar o lançamento do documento compêndio DASF (Planilha Google, Excel). Este recurso foi projetado para ajudar a operacionalizar o DASF, organizando e aplicando seus riscos, ameaças, controles e mapeamentos para padrões reconhecidos pela indústria de organizações como MITRE, OWASP, NIST, ISO, HITRUST e mais. Também criamos um vídeo instrucional complementar que fornece um guia passo a passo do DASF e seu compêndio. 

Nosso objetivo com essas atualizações é tornar o DASF mais fácil de adotar, capacitando as organizações a implementar sistemas de IA de forma segura e confiante. Se você está ansioso para mergulhar, nossa equipe recomenda a seguinte abordagem:

1. Entenda seus stakeholders, modelos de implantação e casos de uso de IA: Comece com um caso de uso de negócios, utilizando o whitepaper DASF para identificar o melhor modelo de implantação de IA. Escolha entre mais de 80 aceleradores de solução da Databricks para orientar sua jornada. Os modelos de implantação incluem Modelos ML Preditivos, APIs de Modelo de Fundação, LLMs Ajustados e Pré-treinados, RAG, Agentes de IA com LLMs e Modelos Externos. Garanta clareza sobre o desenvolvimento de IA dentro de sua organização, incluindo casos de uso, conjuntos de dados, necessidades de conformidade, processos, aplicações e stakeholders responsáveis.
2. Revise os 12 componentes do sistema de IA e 62 riscos: Entenda os 12 componentes dos sistemas de IA, os riscos de segurança cibernética tradicionais e os novos riscos de segurança de IA associados a cada componente, e os stakeholders responsáveis (por exemplo, engenheiros de dados, cientistas, oficiais de governança e equipes de segurança). Use o DASF para promover a colaboração entre esses grupos ao longo do ciclo de vida da IA.
3. Revise os 64 controles de mitigação disponíveis: Cada risco é mapeado para controles de mitigação priorizados, começando com a segurança do perímetro e dos dados. Esses riscos e controles são ainda alinhados com 10 padrões da indústria, fornecendo detalhes e clareza adicionais. 
4. Use o compêndio DASF para localizar riscos, aplicabilidade de controle e impactos de risco: Comece usando a aba "Aplicabilidade de Risco DASF" para identificar riscos relevantes para o seu caso de uso, selecionando um ou mais modelos de implantação de IA. Em seguida, revise os impactos de risco associados, requisitos de conformidade e controles de mitigação. Finalmente, documente detalhes chave para o seu caso de uso, incluindo a descrição do caso de uso de IA, conjuntos de dados, partes interessadas, considerações de conformidade e aplicações.
5. Implemente os controles priorizados:  Use a aba "Aplicabilidade de Controle DASF" do compêndio para revisar os controles DASF aplicáveis e implementar os controles de mitigação em sua plataforma de dados em 12 componentes de IA. Se você estiver usando Databricks, incluímos links com instruções detalhadas sobre como implantar cada controle em nossa plataforma.

Implemente o DASF em sua organização com novos recursos de aprimoramento de habilidades em IA da Databricks

De acordo com um recente estudo do Economist Impact, líderes de dados e IA pesquisados identificaram o aprimoramento de habilidades e a promoção de uma mentalidade de crescimento como prioridades-chave para impulsionar a adoção de IA em 2025. Como parte do lançamento do DASF 2.0, temos recursos para ajudá-lo a entender conceitos de IA e ML e aplicar as melhores práticas de segurança de IA em sua organização. 

1. Treinamento da Databricks Academy: Recomendamos fazer o novo curso de Fundamentos de Segurança em IA, que agora está disponível na Databricks Academy. Antes de mergulhar no whitepaper, este curso de 1 hora é uma ótima introdução aos tópicos de segurança em IA destacados no DASF. Você também receberá uma acreditação para o seu perfil do LinkedIn ao concluir. Se você é novo nos conceitos de IA e ML, comece com o nosso curso de Fundamentos de IA Generativa.  
2. Vídeos explicativos: Gravamos vídeos de visão geral e explicativos do DASF para consumo rápido. Você pode encontrar esses vídeos em nosso canal do YouTube de Melhores Práticas de Segurança. 
3. Workshop presencial ou virtual: Nossa equipe oferece um Workshop de Risco em IA como um guia ao vivo dos conceitos descritos no DASF, focando em superar obstáculos para operacionalizar a gestão de riscos de IA. Este evento de meio dia é direcionado a líderes de nível Diretor+ em governança, dados, privacidade, jurídico, TI e funções de segurança. 
4. Suporte à implantação: O Ferramenta de Análise de Segurança (SAT) monitora a aderência às melhores práticas de segurança nos espaços de trabalho do Databricks de forma contínua. Recentemente, atualizamos o SAT para simplificar a configuração e aprimorar as verificações, alinhando-as com o DASF para melhor cobertura dos riscos de segurança da IA.
5. Assistente de IA do DASF:  Os clientes da Databricks podem configurar o Assistente de IA do Framework de Segurança de IA da Databricks (DASF) diretamente em seu próprio espaço de trabalho sem habilidades prévias da Databricks, interagir com o conteúdo do DASF em linguagem humana simples e obter respostas. 

Construindo uma comunidade com grupos da indústria de IA, clientes e parceiros 

Garantir que o DASF evolua em sintonia com o ambiente regulatório atual de IA e a paisagem emergente de ameaças é uma prioridade máxima. Desde o lançamento da versão 1.0, formamos um grupo de trabalho de IA com colegas do setor, clientes e parceiros para nos mantermos alinhados com esses desenvolvimentos. Queremos agradecer aos nossos colegas do grupo de trabalho e aos nossos revisores prévios como Complyleft, The FAIR Institute, Ethriva Inc, Arhasi AI, Carnegie Mellon University e Rakesh Patil da JPMC. Você pode encontrar a lista completa de contribuidores na seção de agradecimentos do DASF. Se você quiser participar do Grupo de Trabalho de IA do DASF, entre em contato com nossa equipe em [email protected]. 

Veja o que alguns de nossos principais defensores têm a dizer:

"A IA está revolucionando a prestação de cuidados de saúde através de inovações como o pipeline GenAI CLEVER, que processa mais de 1,5 milhão de notas clínicas diariamente para classificar determinantes sociais chave e impactar o cuidado dos veteranos. Este pipeline é construído com uma forte base de segurança, incorporando controles NIST 800-53 e aproveitando o Databricks AI Security Framework para garantir a conformidade e mitigar riscos. Olhando para o futuro, estamos explorando maneiras de expandir essas capacidades por meio de estratégias de Infraestrutura como Código e contêineres seguros, permitindo que agentes sejam implantados e escalados dinamicamente a partir de repositórios, mantendo rigorosos padrões de segurança." - Joseph Raetano, Líder de Inteligência Artificial, Summit Data Analytics & AI Platform, Departamento de Assuntos de Veteranos dos EUA

“O DASF é a ferramenta essencial para transformar a quantificação de risco de IA em uma realidade operacional. Com a abordagem de Risco FAIR-AI agora em seu segundo ano, o DASF 2.0 permite que os CISOs preencham a lacuna entre a segurança cibernética e a estratégia de negócios - falando uma linguagem comum baseada em impacto financeiro mensurável.” - Jacqueline Lebo, Fundadora do AI Workgroup, The FAIR Institute e Gerente de Consultoria de Risco, Safe Security 

“À medida que a IA continua a transformar indústrias, proteger esses sistemas contra ataques cibernéticos sofisticados e únicos é mais crítico do que nunca. O Databricks AI Security Framework é um grande ativo para as empresas liderarem tanto em inovação quanto em segurança. Com o DASF, as empresas estão equipadas para entender melhor os riscos de IA e encontrar as ferramentas e recursos para mitigar esses riscos à medida que continuam a inovar.” - Ian Swanson, CEO, Protect AI

“Com o Databricks AI Security Framework, somos capazes de mitigar os riscos de IA de forma ponderada e transparente, o que é inestimável para construir confiança no conselho e nos funcionários. É um divisor de águas que nos permite trazer a IA para o negócio e estar entre os 15% das organizações que levam as cargas de trabalho de IA para produção de forma segura e com confiança.” — Coastal Community Bank

"No contexto de dados e IA, as conversas sobre segurança são poucas. O Databricks AI Security Framework aborda o lado muitas vezes negligenciado do trabalho de IA e ML, servindo tanto como um guia de primeira classe para não apenas entender os riscos de segurança de IA, mas também como mitigá-los." - Josue A. Bogran, Arquiteto na Kythera Labs & Conselheiro da SunnyData.ai

“Usamos o Databricks AI Security Framework para ajudar a melhorar a postura de segurança de nossa organização na gestão de riscos de segurança de ML e IA. Com o Databricks AI Security Framework, estamos agora mais confiantes em explorar possibilidades com IA e análise de dados, garantindo que temos as medidas adequadas de governança de dados e segurança em vigor." - Muhammad Shami, Vice-Presidente, Jackson National Life Insurance Company

Baixe o Framework de Segurança em IA da Databricks 2.0 hoje!

O Framework de Segurança de IA da Databricks 2.0 e seu compêndio (Planilha do Google, Excel) estão agora disponíveis para download. Para saber sobre os próximos workshops de Risco de IA ou para solicitar um workshop presencial ou virtual dedicado para sua organização, entre em contato conosco em [email protected] ou com sua equipe de conta. Em breve, teremos mais conteúdo de liderança de pensamento para fornecer mais insights sobre a gestão da governança de IA. Para mais insights sobre como gerenciar riscos de segurança de IA, visite o Centro de Segurança e Confiança da Databricks.

(This blog post has been translated using AI-powered tools) Original Post