Mosaic AI Agent Framework
Entwickeln von RAG-Apps (Retrieval Augmented Generation) in Produktionsqualität
Retrieval Augmented Generation (RAG) ist ein GenAI-Anwendungsmuster. RAG findet Daten/Dokumente, die für eine Frage oder einen Task relevant sind, und stellt sie als Kontext für Large Language Models (LLMs) bereit, um präzisere Antworten geben zu können.
Mosaic AI Agent Framework ist eine Tool-Sammlung, die Entwicklern dabei hilft, leistungsfähige GenAI-Anwendungen mit RAG zu erstellen und zu implementieren, deren Ergebnisse konsequent gemessen und auf Richtigkeit, Sicherheit und Governance geprüft werden. Mit Mosaic AI Agent Framework können Entwickler die Qualität ihrer RAG-Anwendung bequem bewerten, schnell iterieren, ihre Hypothesen testen und ihre Anwendung ganz einfach neu bereitstellen. Dabei nutzen sie angemessene Governance und alle erforderlichen Schutzmaßnahmen, um kontinuierlich höchste Qualität zu gewährleisten.
Höchste Produktionsqualität
Mosaic AI Agent Framework unterstützt Unternehmen bei der Entwicklung und Bereitstellung leistungsfähiger GenAI-Anwendungen. Durch den Einsatz von Retrieval Augmented Generation (RAG) wird sichergestellt, dass die Ergebnisse stets konsequent gemessen und auf Richtigkeit, Sicherheit und Governance geprüft werden. Hierzu verfügt Mosaic AI Agent Framework über eine integrierte KI-gestützte Evaluationsfunktion, mit der automatisch festgestellt wird, ob die Ergebnisse hochwertig sind, sowie über eine intuitive Benutzeroberfläche, über die Sie Feedback von menschlichen Akteuren erhalten können.
Schnelle Entwicklungsiteration
Mithilfe von Mosaic AI Agent Framework können Entwickler ganz leicht Feedback zu ihrer GenAI-Anwendung erhalten und schnell Änderungen vornehmen, um jede Hypothese zu testen. Anschließend können sie ihre Anwendung dank eines konsistenten LLMOps-Workflows ohne Codeänderungen in die Produktion überführen. Sie können über alle Aspekte des RAG-Prozesses iterieren: von der Datenaufbereitung über Vektordatenbanken und Modellimplementierung bis hin zu Monitoring, Sicherheit und Governance.
Governance und Schutzeinrichtungen
Mosaic AI Agent Framework fügt sich nahtlos in die übergeordnete Databricks Data Intelligence Platform ein. So steht Ihnen alles zur Verfügung, was Sie für die Implementierung eines kompletten RAG-Systems brauchen: von Sicherheit und Governance bis hin zu Datenintegration, Vektordatenbanken, Qualitätsbewertung und optimierter Bereitstellung per Mausklick. Mit Governance und implementierten Sicherheitsfunktionen können Sie auch toxische Antworten abfangen und gewährleisten, dass Ihre Anwendung den Unternehmensvorgaben entspricht.
Automatisierte Echtzeit-Pipeline für beliebige Datentypen
Mosaic AI unterstützt nativ die Bereitstellung und Indizierung Ihrer Daten für den Online-Abruf. Unstrukturierte Daten (Text, Bilder und Videos) werden von Vector Search automatisch indiziert und bereitgestellt. So werden sie für RAG-Anwendungen zugänglich, ohne dass separate Datenpipelines erstellt werden müssten. Im Hintergrund verwaltet Vector Search Ausfälle, verarbeitet Wiederholungsversuche und optimiert die Batch-Größen, um Ihnen beste Leistung, maximalen Durchsatz und niedrigste Kosten zu bieten. Für strukturierte Daten stellt Feature and Function Serving Abfragen von Kontextdaten im Millisekundenbereich bereit, z. B. Benutzer- oder Kundendaten, die Unternehmen häufig in Prompts einfügen, um sie auf der Grundlage von Benutzerinformationen anzupassen.
