KI menschzentriert im Unternehmen einführen oder entwickeln – Ein Prozessmodell für KMU

1. Menschzentrierte KI ist mehr als eine technische Lösung

Ob ein Unternehmen eine bestehende KI-Lösung nutzen, interne Prozesse mit KI unterstützen oder selbst ein KI-basiertes Produkt entwickeln möchte, ein KI-Vorhaben betrifft immer mehrere Perspektiven gleichzeitig.

Unternehmen müssen festlegen, welche Ziele sie mit KI verfolgen, welche Anforderungen relevante Stakeholder haben, was Nutzende wirklich brauchen und wie sich Arbeitsabläufe durch den Einsatz verändern können. Gleichzeitig ist zu klären, wie das Zusammenspiel zwischen Mensch und KI gestaltet werden soll und welche Daten, technischen Systeme und Kompetenzen dafür notwendig sind.

Wer diese Aspekte getrennt voneinander betrachtet, riskiert, dass eine technisch funktionierende Lösung entsteht, die nicht ausreichend zu den tatsächlichen Anforderungen des Unternehmens oder der (späteren) Nutzenden passt.

Das Prozessmodell der Menschzentrierten KI des Mittelstand-Digital Zentrums Fokus Mensch betrachtet den Einsatz beziehungsweise die Entwicklung von KI deshalb ganzheitlich. Es verbindet drei zentrale Perspektiven miteinander:

• Strategische Perspektive
• Nutzungsperspektive
• Technische Perspektive

Diese drei Perspektiven bilden keine voneinander getrennten Arbeitspakete. Sie beeinflussen sich gegenseitig und sollten während eines KI-Vorhabens kontinuierlich aufeinander abgestimmt werden.

2. Drei Perspektiven eines KI-Vorhabens

2. 1 Strategische Perspektive: Strategisch ausrichten

In der strategischen Perspektive wird zunächst ein gemeinsames Verständnis dafür geschaffen, warum KI eingesetzt oder entwickelt werden soll und welchen Beitrag sie für das Unternehmen leisten kann.

Ein wichtiger Ausgangspunkt sind die Erwartungen und Anforderungen relevanter Stakeholder. Dazu können beispielsweise Geschäftsführung, Führungskräfte und Mitarbeitende gehören, aber auch Kundschaft, externe Partner, Verbände oder weitere gesellschaftliche Akteure.

Auf dieser Grundlage lassen sich strategische Ziele formulieren und mit den bestehenden Unternehmenszielen verbinden. Gleichzeitig können Grundsätze festgelegt werden, an denen sich die Entwicklung oder der Einsatz von KI orientieren sollen. Dazu gehören beispielsweise Transparenz, Verantwortung, Nachhaltigkeit oder Nicht-Diskriminierung. Als Diskussionsgrundlage können hier unsere HCAI-Karten herangezogen werden.

Zur strategischen Perspektive gehört außerdem der Umgang mit organisatorischen Veränderungen, die durch KI entstehen können. Arbeitsprozesse, Verantwortlichkeiten und Rollen können sich verändern. Reorganisation und Change-Management sollten deshalb frühzeitig berücksichtigt werden.

Ein weiterer Bestandteil ist die Evaluation der ökonomischen, ökologischen, sozialen und gesellschaftlichen Wirkungen. Dabei wird betrachtet, welche Auswirkungen der Einsatz oder die Entwicklung von KI auf das Unternehmen, seine Stakeholder und das weitere Umfeld haben kann. Die gewonnenen Erkenntnisse fließen wiederum in die strategische Ausrichtung ein und können dazu führen, Ziele, Maßnahmen oder Rahmenbedingungen anzupassen.

Während die strategische Perspektive insbesondere die übergeordneten Ziele und Erwartungen relevanter Stakeholder berücksichtigt, untersucht die Nutzungsperspektive die konkreten Anforderungen, Bedürfnisse und Nutzungskontexte der Menschen, die mit der KI-Lösung interagieren oder von ihr betroffen sind. Beide Betrachtungen ergänzen sich und beeinflussen sich gegenseitig.

2.2 Nutzungsperspektive: Menschzentriert konzipieren und gestalten

In der Nutzungsperspektive steht die tatsächliche beziehungsweise zukünftige Nutzung einer KI-Lösung im Mittelpunkt. Bereits bei der Klärung des grundsätzlichen Zwecks werden die Bedürfnisse, Aufgaben und Nutzungskontexte der betroffenen Menschen berücksichtigt. Die gewonnenen Erkenntnisse fließen kontinuierlich in die strategische und technische Perspektive ein.

Dabei wird beispielsweise festgelegt, welche Aufgaben die KI übernehmen soll, an welchen Stellen sie Menschen unterstützt und wo Entscheidungen weiterhin bei den Nutzenden verbleiben. Ebenso relevant ist, wie die Interaktion zwischen Mensch und KI gestaltet wird und welche Informationen die Nutzenden benötigen, um die Ergebnisse der KI nachvollziehen zu können.

Ausgangspunkt ist der konkrete Nutzungskontext. Analysiert werden die Ziele, Aufgaben, Bedarfe und Rahmenbedingungen der Menschen, die später mit dem System arbeiten oder dessen Ergebnisse nutzen.

Darauf aufbauend entstehen Nutzungskonzepte. Diese müssen zunächst noch keine fertige technische Lösung darstellen. Szenarien, User Journeys, Prozessdarstellungen oder einfache Prototypen können bereits dabei helfen, die zukünftige Mensch-KI-Zusammenarbeit bzw. das Zusammenspiel sichtbar und diskutierbar zu machen.

Anschließend werden die Konzepte mit Nutzenden und weiteren Stakeholdern überprüft. So lässt sich feststellen, ob die geplante Lösung zu den Anforderungen passt und an welchen Stellen noch Verbesserungen notwendig sind.

Die Evaluation endet nicht mit der Überprüfung erster Konzepte oder Prototypen. Auch während der Einführung und des laufenden Einsatzes wird untersucht, wie Menschen die KI-Lösung tatsächlich nutzen, ob ihre Anforderungen erfüllt werden und wo Anpassungsbedarf besteht. Diese Erkenntnisse fließen wiederum in die Gestaltung ein.

2.3 Technische Perspektive: Technisch umsetzen und betreiben

Parallel zur strategischen Perspektive und der Nutzungsperspektive müssen die technischen Voraussetzungen betrachtet werden.

Eine zentrale Rolle spielen dabei die vorhandenen Daten. Sie müssen in ausreichender Qualität vorliegen, zugänglich sein und sich für den vorgesehenen KI-Einsatz nutzen lassen.

Darüber hinaus braucht es eine geeignete technische Infrastruktur sowie die notwendigen Kompetenzen im Unternehmen. Auf dieser Grundlage kann eine KI-Lösung entwickelt, ausgewählt, angepasst oder in bestehende Systeme integriert werden.

Ein Unternehmen kann eine solche Lösung selbst entwickeln oder externe Dienstleister einbeziehen. Entscheidend ist, dass die technische Umsetzung zu den strategischen Zielen und zum vorgesehenen Nutzungskonzept passt.

Mit der technischen Realisierung ist der Prozess nicht abgeschlossen. Auch im Betrieb entstehen neue Daten, Erfahrungen und Erkenntnisse. Diese können genutzt werden, um die Lösung weiterzuentwickeln, technische und organisatorische Anpassungen vorzunehmen und zusätzliche Mehrwerte für das Unternehmen und seine Stakeholder zu erschließen.

Die technische Perspektive umfasst dabei die Sicherstellung der Datenverfügbarkeit, den Aufbau und die Weiterentwicklung der technischen Infrastruktur sowie die Nutzung von Daten für den Einsatz technischer Lösungen. Dabei können neue Mehrwerte aus Daten entstehen, die wiederum neue Anforderungen an Daten und Infrastruktur mit sich bringen.

3. Kein starrer Ablauf, sondern ein iterativer Prozess

Auch wenn die drei Perspektiven zunächst nacheinander beschrieben werden, ist das Prozessmodell nicht als linearer Ablauf zu verstehen.

Strategische Perspektive, Nutzungsperspektive und technische Perspektive beeinflussen sich während des gesamten KI-Vorhabens gegenseitig.

Aus der strategischen Perspektive kann beispielsweise festgelegt werden, bestimmte Verwaltungstätigkeiten mit KI zu unterstützen. Während der Analyse des Nutzungskontexts zeigt sich möglicherweise, dass sich einige Tätigkeiten gut automatisieren lassen, während bei anderen eine unterstützende Funktion sinnvoller ist. Gleichzeitig kann die technische Analyse ergeben, dass bestimmte Daten noch nicht in ausreichender Qualität vorliegen.

Die Erkenntnisse fließen in die weiteren Aktivitäten aller drei Perspektiven ein.

Das Modell ist deshalb iterativ zu verstehen. Einzelne Schritte können mehrfach durchlaufen, überprüft und angepasst werden. Dadurch können Unternehmen auf neue Erkenntnisse, veränderte Anforderungen, Erfahrungen aus der Nutzung und technologische Entwicklungen reagieren.

Besonders geeignet ist dabei ein interdisziplinäres Projektteam. Strategische Perspektive, Nutzungsperspektive und technische Perspektive sollten nicht erst am Ende zusammengeführt werden, sondern von Beginn an miteinander im Austausch stehen.

4. Vier wiederkehrende Handlungsfelder

Für die praktische Arbeit lassen sich die Aktivitäten innerhalb des Modells zusätzlich in vier übergreifende Handlungsfelder einordnen.

• Analyse umfasst das Verstehen der Ausgangssituation. Dazu gehören unter anderem Stakeholder-Erwartungen, Nutzungskontexte, vorhandene Prozesse, Daten und technische Voraussetzungen.
• Gestaltung beschreibt die Entwicklung von Zielen, Strategien, Nutzungskonzepten und technischen Lösungsansätzen.
• Umsetzung umfasst die Realisierung der geplanten organisatorischen, gestalterischen und technischen Maßnahmen.
• Evaluation und Monitoring dienen dazu, die Wirkung der Maßnahmen zu überprüfen, Verbesserungspotenziale zu identifizieren und die weitere Entwicklung zu unterstützen.

Die vier Handlungsfelder beschreiben übergreifende Aktivitäten, die in unterschiedlicher Ausprägung innerhalb aller drei Perspektiven relevant sind. Sie sind nicht mit den einzelnen Prozessschritten der drei Perspektiven gleichzusetzen, sondern bieten eine ergänzende Möglichkeit, die Aktivitäten im Modell einzuordnen. Dadurch entsteht kein einmaliges KI-Projekt mit einem festen Endpunkt, sondern ein kontinuierlicher Lern- und Entwicklungsprozess.

5. Wie das in der Praxis aussehen kann

Das Beispiel der fiktiven Easy Electricity GmbH zeigt, wie sich die verschiedenen Perspektiven miteinander verbinden lassen.

Das mittelständische Energieversorgungsunternehmen beschäftigt rund 250 Mitarbeitende und beliefert Haushalte sowie kleinere Unternehmen mit Energie. Im Kundenservice gehen regelmäßig Fragen zu Tarifen, Rechnungen oder Störungen ein. Die hohe Zahl der Anfragen führt zu einer starken Auslastung und längeren Wartezeiten.

Ein einfacher Chatbot ist bereits vorhanden. Nun soll dieser um ein Retrieval-Augmented-Generation-System, kurz RAG, erweitert werden. Der Chatbot soll dadurch auf aktuelle Unternehmensinformationen wie Tarifinformationen, Vertragsbedingungen, FAQs oder Störungsmeldungen zugreifen und auf dieser Basis nachvollziehbare Antworten geben können.

5.1 Von der Problemwahrnehmung zur Kontextanalyse

Easy Electricity möchte, dass die Kundschaft nicht länger in Warteschleifen hängen, sondern sofort Antworten bekommen basierend auf echten Unternehmensdokumenten.

Um die Anforderungen aus den verschiedenen Perspektiven zu ermitteln und aufeinander abzustimmen, stellt Easy Electricity ein interdisziplinäres Projektteam zusammen, das Vertretende aus den drei Perspektiven (Nutzungsperspektive, technische Perspektive und strategische Perspektive) vereint. So wird sichergestellt, dass geschäftliche Ziele, nutzungsfreundliche Gestaltung und technische Machbarkeit von Anfang an ineinandergreifen.

In Workshops mit Service-Mitarbeitenden, der IT-Abteilung und ausgewählter Kundschaft werden die Anforderungen präzisiert: Der RAG-Chatbot soll 24/7 verfügbar, Quellenangaben liefern und leicht verständlich sein. Außerdem wünscht sich die Kundschaft die Möglichkeit, bei Bedarf in den persönlichen Service weitergeleitet zu werden (Nutzungsperspektive (rot oben): „Kontextanalyse mit Definition von Anforderungen“).

In der Nutzungsperspektive setzt das Projektteam Methoden wie User Journeys, Szenarios und einen KI-Service Blueprint ein, um typische Kundschaftsanfragen abzubilden und die Interaktion mit dem RAG-Chatbot frühzeitig zu testen (Nutzungsperspektive (rot rechts): „Gestaltung“).

5.2 Erwartungen der Stakeholder

Die Geschäftsführung erwartet eine Entlastung des Service-Centers und sinkende Kosten. Service-Mitarbeitende hoffen, dadurch mehr Zeit für komplexere Anliegen zu gewinnen. Die Kundschaft wünscht sich schnelle und klare Antworten, etwa bei Störungen oder Fragen zu Tarifen. Und der Datenschutzbeauftragte macht deutlich, dass höchste Sicherheitsstandards gelten müssen. Generell möchte Easy Electricity herausfinden, ob der Chatbot mit RAG-Technologie die Zufriedenheit der Kundschaft steigert, Servicekosten reduziert und ob die Kundschaft den Kontakt über den Chatbot akzeptiert und positiv erlebt.

Das Projektteam beschließt deshalb, von Anfang an, Feedbackschleifen einzubauen und den RAG-Chatbot zunächst in einer Pilotphase mit echter Kundschaft zu testen. (Strategische Perspektive (blau oben): „Strategieanalyse und Monitoring der Erwartungen von Stakeholdern“)

5.3 Daten nutzbar machen und Infrastruktur aufbauen

Viele benötigte Daten liegen bereits vor, allerdings in ganz unterschiedlichen Formaten wie PDFs mit Vertragsbedingungen, Tabellen zu Stromtarifen, Webseiteninhalte mit FAQ-Listen oder interne Störungsprotokolle. Das Projektteam beginnt, diese Dokumente zu sammeln, zu bereinigen und in eine Form zu bringen, die maschinell durchsuchbar ist (Grün oben: „Datenverfügbarkeit“).

Parallel dazu richtet die IT-Abteilung eine sichere Cloud-Umgebung ein. Dort wird eine Vektordatenbank installiert, die es dem Chatbot erlaubt, gezielt auf die relevanten Dokumente zuzugreifen. Schnittstellen verbinden die neue Lösung mit dem bestehenden Chatbot (Technische Perspektive (grün rechts): „Technische Infrastruktur aufbauen“).

5.4 Umsetzung und erste Tests

Easy Electricity startet mit einer Pilotgruppe und die erste Kundschaft kann über die Website Fragen stellen. Der RAG-Chatbot durchsucht die relevanten Unternehmensdokumente und liefert eine präzise Antwort mit Quellenhinweis. Die ersten Rückmeldungen, zeigen, dass die Kundschaft die Transparenz schätzen und sich ernst genommen fühlen, da die Informationen nachvollziehbar belegt sind (Nutzungsperspektive (rot links): „Evaluation und Monitoring“).

5.6 Evaluation und Monitoring

Während der Pilotphase wird das Feedback ausgewertet. Die Auswertung zeigt für die Pilotgruppe, dass das Service-Center entlastet wird, da viele Standardanfragen direkt vom RAG-Chatbot beantwortet werden. Verbesserungsbedarf besteht noch bei der Weiterleitung an Mitarbeitende, wenn das System an Grenzen stößt. Hier möchte Easy Electricity in der nächsten Ausbaustufe ansetzen (Strategische Perspektive (blau links): „Evaluation und Monitoring der ökonomischen, ökologischen und sozialen sowie gesellschaftlichen Wirkungen“). Parallel werden in der technischen Perspektive die Qualität der abgerufenen Informationen, die Zuverlässigkeit der Datenanbindung und die technische Leistungsfähigkeit des RAG-Chatbots überprüft. Auf Grundlage dieser Erkenntnisse können beispielsweise Datenbestände aktualisiert, Suchmechanismen verbessert oder technische Komponenten angepasst werden (Technische Perspektive (grün links): „Mehrwerte aus Daten generieren“).