모든 AI 모델에 안전하게 액세스
Mosaic AI 게이트웨이는 엔터프라이즈의 모든 모델에서 중앙 집중식 거버넌스를 통해 데이터와 GenAI 배포를 보호합니다. Azure OpenAI, AWS 기반 Amazon Bedrock, Meta Llama 3 등 모든 모델 엔드포인트를 지원하는 AI 게이트웨이를 사용하면 강력한 단일 쿼리 인터페이스를 통해 최첨단 혁신 기술을 활용할 수 있습니다. AI 게이트웨이를 사용하면 코드베이스를 변경할 필요 없이 새 모델을 쉽게 테스트하고 교체할 수 있습니다. 이는 민감한 데이터 유출을 방지하기 위해 권한이 적용된 Unity Catalog에서 사용량 추적을 캡처합니다. 또한 AI 게이트웨이는 실시간 지출 인사이트를 바탕으로 재정을 감독하고 운영을 간소화합니다.
모든 AI 모델에 대한 통합 액세스
Mosaic AI 게이트웨이는 단일 표준 쿼리 인터페이스를 통해 OpenAI, Meta Llama 3와 같은 외부 LLM을 포함하여 다양한 모델에 대한 통합 액세스를 제공합니다. 따라서 AI 트래픽을 관리하기 위해 별도의 시스템을 유지 관리할 필요가 없습니다. 기업은 기본 모델과 맞춤형 모델 간에 손쉽게 전환하여 중단 없는 파이프 라인과 간소화된 유지 관리를 보장할 수 있습니다.
고급 보안 및 거버넌스
GenAI를 도입하기 위해서는 복잡한 보안 프로토콜, 데이터 거버넌스 표준, 액세스 제어를 해결해야 합니다. AI 게이트웨이는 페이로드 로그, 사용량 추적, 가드레일 활성화와 같은 모델 API를 통해 전송되는 데이터를 캡처하여 Unity Catalog에서 안전하게 저장, 공유, 관리함으로써 작업을 간소화합니다. 중앙 집중식 거버넌스와 콘텐츠 필터링 및 PII 감지와 같은 맞춤형 가드레일을 통해 모든 엔드포인트에서 일관된 보안과 규정 준수를 보장하여 조직의 가장 중요한 정보를 보호합니다.
모델 정확도 개선
자세한 요청 정보와 응답 데이터를 캡처하는 강력한 가시성 도구로 모델 품질을 향상하세요. 페이로드 로깅을 사용하면 모델을 디버그 및 미세 조정하거나 개선하여 정확도를 높이고 레이턴시를 단축할 수 있습니다. 이렇게 하면 AI 애플리케이션이 최상의 성능을 발휘하고 최적의 결과를 제공할 수 있습니다.
지출 감독
Databricks의 가시성 도구는 자세한 사용량 추적 및 지출 감독 기능을 제공합니다. AI 운영에 대한 실시간 인사이트를 바탕으로 비용을 모니터링하고 리소스 할당을 최적화하며 효율적인 성능을 보장할 수 있습니다. 이러한 도구를 사용하면 재무에 대한 통제권을 유지하면서 AI 배포의 효과를 극대화할 수 있습니다.