Mosaic AI 에이전트 프레임워크
프로덕션 품질의 검색 증강 생성(RAG) 앱 구축
검색 증강 생성(RAG)은 질문이나 작업과 관련된 데이터/문서를 찾고 보다 정확한 응답을 제공하도록 이를 대규모 언어 모델(LLM)에 대한 컨텍스트로 제공하는 생성형 AI 애플리케이션 패턴입니다.
Mosaic AI 에이전트 프레임워크는 정확성, 안전성, 관리 여부가 일관되게 측정 및 평가되는 RAG를 활용하여 고품질의 생성형 AI 애플리케이션을 빌드하고 배포할 수 있도록 설계된 도구 모음입니다. Mosaic AI 에이전트 프레임워크를 사용하면 개발자는 RAG 애플리케이션의 품질을 손쉽게 평가하고, 가설을 테스트하는 반복 작업을 빠르게 수행하고, 애플리케이션을 간편하게 재배포할 수 있습니다. 또한, 적절한 거버넌스와 가드레일을 통해 안정적으로 유지할 수 있습니다.
최고의 프로덕션 품질
Mosaic AI 에이전트 프레임워크는 정확성, 안전성, 관리 여부가 일관되게 측정 및 평가되는 프로덕션 품질의 GenAI 애플리케이션을 배포할 수 있도록 지원합니다. Mosaic AI 에이전트 프레임워크에는 결과물의 품질을 자동으로 판단할 수 있는 독점적인 AI 기반 평가 기능이 내장되어 있으며, 직관적인 UI를 통해 이해관계자로부터 피드백을 받을 수 있습니다.
신속한 반복 개발 작업
Mosaic AI 에이전트 프레임워크는 개발자가 GenAI 애플리케이션에 대한 피드백을 손쉽게 반영하고, 수정 사항을 빠르게 반복 적용하여 모든 가설을 테스트할 수 있도록 도와줍니다. 그런 다음 엔드투엔드 LLMOps 워크플로를 사용하여 코드 변경 없이 애플리케이션을 프로덕션 환경에 다시 배포할 수 있습니다. 개발자는 데이터 준비, 벡터 데이터베이스, 모델 배포부터 모니터링, 보안 및 관리 체계에 이르기까지 RAG 프로세스의 모든 단계를 반복할 수 있습니다.
거버넌스 및 가드레일
Mosaic AI 에이전트 프레임워크는 다른 Databricks 데이터 인텔리전스 플랫폼과 원활하게 통합됩니다. 즉, 보안 및 관리 체계부터 데이터 통합, 벡터 데이터베이스, 품질 평가 및 원클릭 최적화 배포에 이르기까지, 엔드투엔드 RAG 시스템을 배포하는 데 필요한 모든 것을 갖추고 있습니다. 거버넌스와 가드레일을 통합하여 애플리케이션의 유해한 응답이나 정책 위반을 사전에 방지할 수 있습니다.
모든 유형의 데이터에 대해 자동화된 실시간 파이프라인
Mosaic AI는 기본적으로 온라인 검색을 위한 데이터 제공 및 색인화를 지원합니다. 비정형 데이터(텍스트, 이미지, 비디오)의 경우 Vector Search는 자동으로 데이터를 색인화하여 제공하므로 별도의 데이터 파이프라인을 생성할 필요 없이 RAG 애플리케이션에서 해당 데이터에 액세스할 수 있습니다. 내부적으로 Vector Search는 오류를 관리하고 재시도를 처리하며 배치 크기를 최적화하여 성능과 처리량을 극대화하고 비용을 대폭 절감합니다. 정형 데이터의 경우 특성 및 기능 제공을 통해 기업이 사용자 정보를 기반으로 맞춤 설정하기 위해 프롬프트에 삽입하는 사용자 또는 계정 데이터와 같은 상황별 데이터에 대한 밀리초 규모의 쿼리를 제공합니다.
