Databricks AI 보안 프레임워크 2.0 발표

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)

Databricks AI 보안 프레임워크(DASF 2.0—지금 다운로드)의 두 번째 버전을 발표하게 되어 기쁩니다! AI의 잠재력을 활용하려는 조직들은 혁신의 '가속기'와 거버넌스 및 위험 관리의 '브레이크'가 모두 필요합니다. DASF는 이 두 가지를 연결하여 AI 위험 관리에 대한 종합적인 가이드로서 조직의 안전하고 영향력 있는 AI 배포를 가능하게 합니다.

이 블로그에서는 DASF에 대한 개요를 제공하고, 원래 버전이 출시된 이후 얻은 주요 인사이트를 탐색하며, AI 보안에 대한 이해를 깊게 하기 위한 새로운 자료를 소개하고, 업계 기여자에 대한 업데이트를 제공할 것입니다.

Databricks AI 보안 프레임워크는 무엇이며, 버전 2.0에서 새로운 것은 무엇인가요? 

다음은 DASF AI 보안 및 거버넌스 위험을 관리하기 위한 프레임워크와 백서입니다. 이는 12개의 기본 AI 시스템 구성 요소, 각각의 위험, 그리고 각 위험을 완화하기 위한 실질적인 제어 방법을 열거합니다. Databricks 보안 및 ML 팀이 산업 전문가들과 협력하여 만들었으며, 실용적인 도구와 실행 가능한 전략을 통해 AI를 이해하기 쉽게 만들고, 협업을 촉진하며, 효과적인 구현을 보장하는 다리 역할을 합니다.

다른 프레임워크와 달리, DASF 2.0은 기존 표준을 기반으로 AI 배포를 위한 종단간 위험 프로필을 제공합니다. 이는 귀하의 조직에서 AI 위험 관리를 단순화하기 위한 깊이 있는 방어 제어를 제공하며, 선택한 데이터 및 AI 플랫폼에 적용할 수 있습니다. 

DASF 2.0에서는 62개의 기술 보안 위험 을 확인하고 이를 64개의 권장 컨트롤 에 매핑하여 AI 모델의 위험을 관리합니다. 또한, 주요 산업 AI 위험 프레임워크 및 표준에 대한 매핑을 확장하였습니다. 이에는 MITRE ATLAS, OWASP LLM & ML Top 10, NIST 800-53, NIST CSF, HITRUST, ENISA의 ML 알고리즘 보안, ISO 42001, ISO 27001:2022, 그리고 EU AI Act가 포함됩니다. 

DASF를 운영화하는 방법 - 새로운 요약집과 함께하는 설명 비디오를 확인해보세요!

업계 행사, 워크샵, 고객 회의에서 DASF를 공유하면서 소중한 피드백을 받았습니다. 많은 분들이 DASF를 쉽게 탐색하고, 운영화하고, 효과적으로 제어를 매핑하는 데 도움이 될 자료를 더 요청하셨습니다. 

이에 대한 반응으로, 우리는 DASF 요약집 문서의 출시를 발표하게 되어 기쁩니다 (Google 시트, Excel). 이 자료는 DASF를 운영화하는 데 도움이 되도록 위험, 위협, 제어, 매핑을 조직하고 MITRE, OWASP, NIST, ISO, HITRUST 등의 업계 인정 표준에 적용하도록 설계되었습니다. 또한 우리는 설명 비디오 를 만들어 DASF와 그 요약집을 안내하는 가이드를 제공합니다. 

이러한 업데이트를 통해 DASF를 더 쉽게 채택할 수 있도록 하여, 조직이 AI 시스템을 안전하고 자신있게 구현할 수 있도록 돕는 것이 목표입니다. 만약 당신이 열심히 참여하고 싶다면, 우리 팀은 다음과 같은 접근 방식을 권장합니다:

1. 이해당사자, 배포 모델, AI 사용 사례를 이해하십시오: 비즈니스 사용 사례로 시작하여, DASF 백서를 활용하여 가장 적합한 AI 배포 모델을 식별하십시오. 80+ Databricks 솔루션 가속기 를 선택하여 여정을 안내하십시오. 배포 모델에는 예측 ML 모델, 기반 모델 API, 세밀하게 조정된 및 사전 훈련된 LLM, RAG, LLM을 가진 AI 에이전트, 외부 모델이 포함됩니다. 조직 내에서의 AI 개발에 대한 명확성을 확보하십시오. 이에는 사용 사례, 데이터셋, 준수 필요성, 프로세스, 애플리케이션, 책임을 지는 이해당사자가 포함됩니다.
2. 12개의 AI 시스템 구성 요소와 62개의 위험을 검토하십시오: 12개의 AI 시스템 구성 요소, 각 구성 요소와 관련된 전통적인 사이버 보안 및 새로운 AI 보안 위험, 그리고 책임을 지는 이해당사자(예: 데이터 엔지니어, 과학자, 거버넌스 담당자, 보안 팀)를 이해하십시오. DASF를 사용하여 AI 수명 주기 전반에 걸쳐 이러한 그룹 간의 협업을 촉진하십시오.
3. 64개의 가능한 완화 제어를 검토하세요: 각 위험은 우선순위가 높은 완화 제어에 매핑되며, 이는 주변 및 데이터 보안부터 시작합니다. 이러한 위험과 제어는 10개의 업계 표준과 더욱 일치하며, 추가적인 세부 사항과 명확성을 제공합니다. 
4. DASF 컴펜디엄을 사용하여 위험, 컨트롤 적용성, 그리고 위험 영향을 지역화하세요: “DASF Risk Applicability” 탭을 사용하여 사용 사례에 관련된 위험을 식별하고, 하나 이상의 AI 배포 모델을 선택합니다. 그 다음, 관련 위험 영향, 준수 요구사항, 그리고 완화 컨트롤을 검토합니다. 마지막으로, AI 사용 사례 설명, 데이터셋, 이해당사자, 준수 고려사항, 그리고 응용 프로그램을 포함한 사용 사례의 주요 세부사항을 문서화합니다.
5. 우선 순위가 높은 제어를 구현하세요:  "DASF Control Applicability" 탭의 요약서를 검토하여 적용 가능한 DASF 제어를 확인하고, 12개의 AI 구성 요소에 걸쳐 데이터 플랫폼에서 완화 제어를 구현하세요. Databricks를 사용하고 있다면, 각 제어를 우리 플랫폼에 배포하는 방법에 대한 자세한 지침이 포함된 링크를 제공했습니다.

Databricks의 새로운 AI 업스킬링 리소스를 이용하여 귀사에서 DASF를 구현하세요

최근 Economist Impact 연구에 따르면, 설문조사에 참여한 데이터 및 AI 리더들은 업스킬링과 성장 마인드셋을 육성하는 것을 2025년 AI 채택을 주도하는 주요 우선사항으로 지정하였습니다. DASF 2.0 출시의 일환으로, 우리는 당신이 AI와 ML 개념을 이해하고, 당신의 조직에 AI 보안 모범 사례를 적용하는 데 도움이 될 자료를 제공하고 있습니다. 

1. Databricks Academy 교육: 우리는 새로운 AI 보안 기본 과정을 수강하는 것을 권장합니다. 이 과정은 Databricks Academy에서 이제 사용할 수 있습니다. 백서에 뛰어들기 전에, 이 1시간 과정은 DASF에서 강조된 AI 보안 주제에 대한 훌륭한 기초가 될 것입니다. 또한, 완료 후에는 LinkedIn 프로필에 인증을 받게 됩니다. 만약 당신이 AI와 ML 개념에 익숙하지 않다면, 우리의 Generative AI 기본 과정부터 시작하세요.  
2. 방법 설명 비디오: DASF 개요 및 방법 설명 비디오를 빠르게 소비할 수 있도록 녹화하였습니다. 이러한 비디오는 우리의 보안 모범 사례 YouTube 채널에서 찾을 수 있습니다. 
3. 직접 또는 가상 워크숍: 우리 팀은 AI 위험 워크숍 을 제공하여 DASF에서 설명된 개념을 실시간으로 안내하며, AI 위험 관리를 운영화하는 장애물을 극복하는 데 초점을 맞춥니다. 이 반일 이벤트는 거버넌스, 데이터, 개인 정보 보호, 법률, IT 및 보안 기능의 이사급 이상의 리더를 대상으로 합니다. 
4. 배포 지원: 보안 분석 도구 (SAT)는 Databricks 작업 공간에서 보안 모범 사례를 지속적으로 준수하는지 모니터링합니다. 최근에는 SAT를 업그레이드하여 설정을 간소화하고 체크를 향상시켰으며, 이를 DASF와 일치시켜 AI 보안 위험의 보다 향상된 커버리지를 제공합니다.
5. DASF AI 어시스턴트:  Databricks 고객은 Databricks AI 보안 프레임워크 (DASF) AI 어시스턴트 를 자신의 작업 공간에서 Databricks 기술 없이 설정하고, DASF 콘텐츠와 간단한 인간 언어로 상호 작용하고 답변을 얻을 수 있습니다. 

AI 산업 그룹, 고객, 그리고 파트너들과 커뮤니티를 구축하기 

DASF가 현재의 AI 규제 환경과 급변하는 위협 환경에 맞게 발전하는 것을 최우선 과제로 두고 있습니다. 1.0 출시 이후, 우리는 이러한 발전과 밀접하게 연계되도록 산업 동료, 고객, 그리고 파트너들의 AI 작업 그룹을 구성하였습니다. 우리는 작업 그룹의 동료들과 사전 검토자들인 Complyleft, The FAIR Institute, Ethriva Inc, Arhasi AI, Carnegie Mellon University, 그리고 JPMC의 Rakesh Patil에게 감사의 말씀을 전하고 싶습니다. DASF의 감사의 글 섹션에서 기여자 전체 목록을 찾을 수 있습니다. 만약 DASF AI 작업 그룹에 참여하고 싶다면, 우리 팀에게 [email protected]으로 연락해 주세요. 

우리의 주요 지지자들이 말하는 바를 들어보세요:

"AI는 CLEVER GenAI 파이프라인과 같은 혁신을 통해 의료 서비스 제공을 혁신하고 있습니다. 이 파이프라인은 매일 150만 개 이상의 임상 메모를 처리하여 주요 사회적 결정 요인을 분류하고 베테랑 케어에 영향을 미칩니다. 이 파이프라인은 강력한 보안 기반으로 구축되었으며, NIST 800-53 컨트롤을 통합하고 Databricks AI 보안 프레임워크를 활용하여 준수를 보장하고 위험을 완화합니다. 앞으로, 우리는 Infrastructure as Code와 안전한 컨테이너화 전략을 통해 이러한 기능을 확장하는 방법을 탐색하고 있습니다. 이를 통해 대리인들이 저장소에서 동적으로 배포되고 확장될 수 있으며 엄격한 보안 표준을 유지할 수 있습니다." - Joseph Raetano, 인공지능 리드, Summit Data Analytics & AI Platform, 미국 베테랑 당국

“DASF는 AI 위험 정량화를 운영 현실로 전환하는 필수 도구입니다. FAIR-AI Risk 접근법이 이제 두 번째 해를 맞이하면서, DASF 2.0은 CISO들이 사이버 보안과 비즈니스 전략 사이의 간극을 메우는 데 도움이 됩니다. 이는 측정 가능한 재정적 영향에 기반을 둔 공통 언어를 사용합니다.” - Jacqueline Lebo, FAIR Institute 및 Risk Advisory Manager, Safe Security의 AI Workgroup 창립자 

“AI가 산업을 계속해서 변화시키는 가운데, 이러한 시스템을 복잡하고 독특한 사이버 보안 공격으로부터 보호하는 것은 어느 때보다 중요해졌습니다. Databricks AI 보안 프레임워크는 혁신과 보안 모두에서 선도적인 역할을 할 수 있도록 회사에 큰 자산이 될 것입니다. DASF를 통해, 회사들은 AI 위험을 더 잘 이해하고, 이러한 위험을 완화하는 도구와 자원을 찾아 계속 혁신할 수 있게 됩니다.” - Ian Swanson, CEO, Protect AI

“Databricks AI 보안 프레임워크를 통해, 우리는 AI 위험을 신중하고 투명하게 완화할 수 있어, 이는 이사회와 직원 신뢰를 구축하는 데 매우 중요합니다. 이는 우리가 AI를 비즈니스에 도입하고, 안전하게 신뢰할 수 있는 방식으로 AI 작업 부하를 생산하는 조직 중 15%에 속하게 해주는 게임 체인저입니다.” — Coastal Community Bank

"데이터와 AI의 맥락에서 보안에 대한 대화는 거의 없습니다. Databricks AI 보안 프레임워크는 AI와 ML 작업의 종종 무시되는 측면을 다루며, AI 보안 위험을 이해하는 데 뿐만 아니라 이를 완화하는 방법에 대한 최고 수준의 가이드 역할을 합니다." - Josue A. Bogran, Kythera Labs의 아키텍트 및 SunnyData.ai의 고문

“우리는 Databricks AI 보안 프레임워크를 사용하여 우리 조직의 보안 자세를 강화하고 ML 및 AI 보안 위험을 관리하는 데 도움을 받았습니다. Databricks AI 보안 프레임워크를 통해, 우리는 이제 AI와 데이터 분석의 가능성을 탐색하면서 적절한 데이터 거버넌스와 보안 조치가 갖춰져 있다는 것에 대해 더욱 확신을 가지게 되었습니다." - Muhammad Shami, 잭슨 국민 생명 보험 회사 부사장

오늘 Databricks AI 보안 프레임워크 2.0을 다운로드하세요!

Databricks AI 보안 프레임워크 2.0 과 그 동반자(Google 시트, Excel)이 이제 다운로드 가능합니다. 다가오는 AI 위험 워크샵 에 대해 알아보거나, 조직을 위한 전용 대면 또는 가상 워크샵을 요청하려면, [email protected] 또는 계정 팀에 문의하십시오. 또한 AI 거버넌스 관리에 대한 추가적인 인사이트를 제공하기 위해 곧 추가적인 생각의 리더십 콘텐츠가 출시될 예정입니다. AI 보안 위험 관리에 대한 더 많은 인사이트를 얻으려면, Databricks 보안 및 신뢰 센터를 방문하십시오.