Horizontale LLM‑Integration für Just‑in‑Time‑Data-Access

Challenge

Ein mittelständisches Unternehmen nutzte mehrere Systeme (CRM, Dokumentenverwaltung, Intranet), in denen sich Wissen über Produkte, Prozesse und Richtlinien verteilte. Mitarbeitende verbrachten viel Zeit mit der Suche nach Informationen; Onboarding war langsam und unterschiedliche Abteilungen arbeiteten mit veralteten Unterlagen.

Solution

Wir implementierten eine Retrieval‑Augmented‑Generation‑Plattform (RAG), die ein fein‑abgestimmtes LLM mit allen internen Datenquellen verknüpft. Über API‑Integrationen wurden Daten aus CRM, ERP, Wissensdatenbanken und Share‑Point zusammengeführt. Eine Conversational‑Schnittstelle (Chatbot) ermöglichte natürliche Spracheingaben. Nutzer*innen konnten per Chat Fragen stellen und erhielten kontextgenaue Antworten; das System lieferte zudem Handlungsanweisungen und Links zu relevanten Quellen. Für das Onboarding wurden Schritt‑für‑Schritt‑Anleitungen hinterlegt.

Outcome

• 50 % weniger Suchzeit: Die zentrale Wissensplattform mit Echtzeit‑Retrieval verkürzte die Zeit, die Mitarbeitende mit der Informationssuche verbringen, um die Hälfte.
• 30 % schnelleres Onboarding: Neue Mitarbeitende fanden Richtlinien und Trainings­materialien sofort; damit verkürzte sich die Einarbeitung spürbar
• Höhere Informationsqualität: Konsolidierte Datenquellen verhinderten widersprüchliche Informationen und reduzierten Fehler.
• Verbesserte Zusammenarbeit und funktionsübergreifende Kooperation.

In ähnlichen Automationsprojekten wurden etwa 40 Stunden pro Monat eingespart, und die Einführung eines „Enhancer“-Schritts verbesserte die Datenqualität und verkürzte Prozesse.

Technologie & Methodik

ELT Data‑Pipelines, OpenAI , Microsoft Azure , Chatbot‑Frontend