Mosaic AI Gateway
Gestisci e governa tutti i modelli di GenAI in ogni area dell'azienda
Accesso sicuro a qualsiasi modello di AI
Mosaic AI Gateway protegge i dati e le implementazioni di GenAI con una governance centralizzata estesa a tutti i modelli dell'azienda. Supportando qualsiasi endpoint dei modelli, inclusi Azure OpenAI, Amazon Bedrock su AWS e Meta Llama 3, AI Gateway consente di sfruttare innovazioni all'avanguardia tramite un'unica e potente interfaccia di query. Con AI Gateway, è possibile testare e scambiare facilmente nuovi modelli senza modificare la base di codice. Acquisisce il monitoraggio dell'utilizzo in Unity Catalog, controllando le autorizzazioni per impedire fughe di dati sensibili. Inoltre, AI Gateway fornisce informazioni di spesa in tempo reale, permettendoti di tenere sotto controllo li costi e snellire le procedure.
Accesso unificato a tutti i modelli AI
Mosaic AI Gateway offre accesso unificato a un'ampia gamma di modelli, inclusi LLM esterni come OpenAI e Meta Llama 3, attraverso un'unica interfaccia di query standard, eliminando la necessità di mantenere sistemi separati per gestire il traffico AI. Le aziende possono passare facilmente da modelli di base a modelli personalizzati, garantendo pipeline ininterrotte e una manutenzione semplificata.
Sicurezza e governance avanzate
Adottare la GenAI significa doversi destreggiare tra complessi protocolli di sicurezza, standard di governance dei dati e controlli degli accessi. AI Gateway semplifica queste operazioni acquisendo in Unity Catalog i dati che fluiscono attraverso le API dei modelli (inclusi registri del payload, monitoraggio dell'utilizzo ed eventi di attivazione dei guardrail) per archiviarli, condividerli e gestirli in modo sicuro. Grazie alla governance centralizzata e a guardrail personalizzati, come il filtro dei contenuti e il rilevamento delle informazioni personali, garantisce sicurezza e conformità coerenti su tutti gli endpoint, proteggendo le informazioni più importanti dell'organizzazione.
Maggiore precisione del modello
Migliora la qualità del tuo modello con strumenti di osservabilità che acquisiscono dati dettagliati su richieste e risposte. La registrazione del payload consente di eseguire il debug dei modelli, ottimizzarli e migliorarli, aumentando l'accuratezza e riducendo la latenza. In questo modo, le applicazioni di AI funzionano al meglio e forniscono risultati ottimali.
Supervisione della spesa
I nostri strumenti di osservabilità offrono un monitoraggio dettagliato dell'utilizzo e della spesa. Informazioni in tempo reale sulle operazioni con l'AI consentono di tenere d'occhio la spesa, ottimizzare l'allocazione delle risorse e garantire prestazioni efficienti. Grazie a questi strumenti, potrai mantenere il controllo economico sulle tue attività, massimizzando al contempo l'efficacia delle tue implementazioni di AI.
Comincia a lavorare con queste risorse
Blog e demo
Documentazione
eBook
Vuoi diventare un'azienda basata su dati e AI?
Inizia il tuo percorso di trasformazione dei dati