Das Mittelstand-Digital Zentrum Fokus Mensch hat daher einen Demonstrator für Retrieval-Augmented Generation (RAG) entwickelt, der auf GitHub frei verfügbar ist:
- Benutzeroberfläche: KMS-MDZ-FM
- Middleware: KMS-MDZ-FM-Middleware
Der RAG-Demonstrator kombiniert semantische Suche mit generativer KI, um Informationen aus verschiedenen Quellen effizient zu integrieren und bereitzustellen. Dies ermöglicht eine kontextbezogene Beantwortung von Anfragen und unterstützt KMU dabei, relevantes Wissen schnell zu identifizieren und zu nutzen.
Technische Umsetzung
Die Benutzeroberfläche des Demonstrators basiert auf Nuxt 3 und Vue.js, was eine moderne und reaktive Gestaltung ermöglicht. Für das Backend kommen Node.js und Prisma zum Einsatz, um eine robuste Datenverarbeitung und -speicherung zu gewährleisten. Die Middleware ist in Python mit Flask realisiert und dient als Schnittstelle für die Verarbeitung von Dokumenten, das Generieren von Embeddings und die Speicherung in einer Qdrant-Vektordatenbank.Dies ermöglicht eine effiziente semantische Suche und die Integration von benutzerdefinierten Sprachmodellen, die dem OpenAI-API-Format folgen .GitHub
Anpassungsmöglichkeiten
Der Demonstrator ist modular aufgebaut und lässt sich leicht an spezifische Anforderungen anpassen. Unternehmen können beispielsweise das Frontend durch eigene Logos und Farbpaletten individualisieren oder die Middleware so konfigurieren, dass sie mit firmeneigenen Dokumenten und Datenquellen arbeitet. Dies ermöglicht eine nahtlose Integration in bestehende Systeme und Prozesse.
Einsatzmöglichkeiten in der Praxis
Der RAG-Demonstrator eignet sich besonders für den Einsatz in Bereichen wie Wissensmanagement, Kundenservice oder interner Kommunikation. Durch die Kombination von semantischer Suche und generativer KI können Mitarbeitende schneller auf relevante Informationen zugreifen und fundierte Entscheidungen treffen. Dies steigert die Effizienz und fördert eine wissensbasierte Unternehmenskultur.
Fazit
Mit dem RAG-Demonstrator bietet das Mittelstand-Digital Zentrum Fokus Mensch KMU ein leistungsfähiges Werkzeug, um den Herausforderungen der digitalen Informationsverarbeitung zu begegnen. Die offene Bereitstellung auf GitHub ermöglicht es Unternehmen, die Lösung eigenständig zu testen, anzupassen und in ihre Systeme zu integrieren.Interessierte können den Demonstrator unter den folgenden Links einsehen und nutzen:
- Benutzeroberfläche: KMS-MDZ-FM
- Middleware: KMS-MDZ-FM-Middleware
Für weitere Informationen und Unterstützung steht das Team des Mittelstand-Digital Zentrums Fokus Mensch gerne zur Verfügung.
Weitere Informationen
Kontakt
Darius Hennekeuser
- Hochschule Bonn-Rhein-Sieg
- Mittelstand 4.0-Kompetenzzentrum Usability
Dr. Daryoush Daniel Vaziri
- Hochschule Bonn-Rhein-Sieg
- Mittelstand 4.0-Kompetenzzentrum Usability
- Mittelstand-Digital Zentrum Fokus Mensch
- Grantham-Allee 20
- 53757 Sankt Augustin
- +49 (0) 2241 865-9654