Databricks Mosaic AI는 예측 모델 구축부터 최신 GenAI 앱에 이르기까지 AI 및 ML 솔루션을 구축, 배포, 평가 및 관리하기 위한 통합 도구를 제공합니다. Databricks Data Intelligence Platform을 기반으로 구축된 Mosaic AI를 통해 조직은 기업 데이터와 통합된 프로덕션 품질의 복합 AI 시스템을 안전하고 비용 효율적으로 구축할 수 있습니다.
프로덕션 품질
기업 데이터를 사용한 맞춤화된 정확한 결과 제공
완벽한 제어
모든 데이터 및 AI 자산에 대한 엔드 투 엔드 거버넌스 제공
비용 절감
10배 더 저렴한 비용으로 맞춤형 LLM 트레이닝 및 제공
생성형 AI 솔루션 구축 시작
대규모 언어 모델(LLM) 기반 솔루션을 구축할 때는 프롬프트 엔지니어링, 검색 증강 생성(RAG), 미세 조정, 사전 트레이닝 등 4가지 아키텍처 패턴을 고려해야 합니다. Databricks는 4가지 생성형 AI 아키텍처 패턴을 모두 지원하는 유일한 공급업체로, 가장 많은 옵션을 제공하며 비즈니스 요구 사항에 맞춰 발전시킬 수 있습니다.
모델 및 데이터에 대한 완전한 소유권
Mosaic AI는 데이터, 모델 트레이닝, 프로덕션 환경을 단일 솔루션으로 통합하는 Databricks Data Intelligence Platform에 포함되어 있습니다. 엔터프라이즈 데이터를 안전하게 사용하여 자체 머신 러닝과 생성형 AI 모델을 보강, 미세 조정 또는 구축할 수 있으므로, 데이터와 AI를 외부로 전송하지 않고도 비즈니스에 대한 의미론적 이해를 바탕으로 모델의 성능을 강화할 수 있습니다.
모든 AI 모델을 중앙에서 배포 및 관리
Model Serving은 AI 모델을 배포, 관리, 쿼리하기 위한 통합 서비스입니다. Databricks의 통합 접근 방식을 사용하면 모델을 간편하게 Experiment하고 프로덕션화할 수 있습니다. 여기에는 다음이 포함됩니다.
- 맞춤형 ML 모델(예: PyFunc, scikit-learn, LangChain)
- Databricks 기반 파운데이션 모델(FM)(예: Llama 3, MPT, Mistral, BGE)
- 타사 호스팅 파운데이션 모델(예: ChatGPT, Claude 3, Cohere, Stable Diffusion)
한 곳에서 데이터, 기능 및 AI 모델 모니터링
Lakehouse Monitoring은 Databricks Data Intelligence Platform 내에서 단일 통합 모니터링 솔루션을 제공하고, 클릭 한 번으로 모든 테이블의 통계적 속성과 품질을 모니터링합니다. 생성형 AI를 기반으로 하는 애플리케이션의 경우 결과물에서 유해한 콘텐츠를 스캔하고 오류를 진단할 수 있습니다.
데이터부터 모델까지 전체 AI 수명 주기의 리니지 관리 및 추적
적절한 권한을 적용하고, 비율 제한을 설정하며, 리니지를 추적하여 엄격한 보안 및 거버넌스 요구 사항을 충족합니다. 데이터부터 모델까지 모든 ML 자산을 단일 도구인 Unity Catalog로 관리하여 개발부터 배포, 유지 관리에 이르는 ML 수명 주기의 전 단계를 일관되게 감독하고 제어합니다.
10배 더 저렴한 비용으로 맞춤형 LLM 트레이닝 및 제공
Mosaic AI를 사용하면 처음부터 맞춤형 대규모 언어 모델을 구축하여 모델의 기반 지식을 특정 도메인에 맞게 조정할 수 있습니다. 조직의 IP와 데이터를 바탕으로 학습하면 고유하게 차별화된 맞춤형 모델이 생성됩니다. Databricks Mosaic AI Training은 최대 10배 더 낮은 학습 비용으로 며칠 만에 수십억 매개변수 LLM을 새롭게 구축할 수 있는 최적화된 트레이닝 솔루션입니다.
