Diese alarmierende Quote untermauert unter anderem der aktuelle Bericht „The GenAI Divide: State of AI in Business 2025“ des MIT. Woran liegt das?
Vor allem an der Kluft zwischen sterilen Laborbedingungen mit sauberen Testdaten und der unberechenbaren Realität, wenn echte Nutzer auf das System losgelassen werden. Was wir hier beobachten, ist ein klassisches Produktivitätsparadoxon.
Es wird massiv investiert, einfache Aufgaben laufen zwar tatsächlich schneller, aber die Qualität der Ergebnisse sinkt spürbar. Das Phänomen kennen wir bereits aus den 80er und 90er Jahren bei der flächendeckenden Einführung von PCs: Anstatt alte, ineffiziente Prozesse komplett neu zu gestalten, stülpt man ihnen lediglich eine neue digitale Schicht über. Experten kommen kaum noch dazu, kreativ zu arbeiten, sondern werden zu reinen Kontrolleuren degradiert, die generische oder fehlerhafte KI-Ergebnisse aussortieren müssen. Gleichzeitig entsteht der Druck, durch KI ständiges Multitasking zu betreiben. Wichtige Erholungsphasen im Arbeitsalltag fallen weg, die Frustration steigt und am Ende leidet die echte Produktivität.
Doch nicht nur die Produktivität steht auf dem Spiel. Wenn Unternehmen keine klaren Regeln für den KI-Einsatz definieren, entstehen schnell handfeste juristische Risiken an zwei verschiedenen Fronten. Intern führt das häufig zum Einsatz von sogenannten Schatten-KIs: Mitarbeitende nutzen eigenmächtig externe KI-Tools und füttern sie unkontrolliert mit sensiblen Firmendaten, was Datenschutz- und Urheberrechtsverletzungen Tür und Tor öffnet. Nach außen hin zeigen sich die versteckten Kosten, wenn die nicht immer 100% zuverlässige Technik auf fehlende juristische Weitsicht trifft.
Ein bekanntes Beispiel hierfür sind Chatbots, die aufgrund technischer Schwächen (Halluzinationen) Kunden plötzlich erfundene Tarife oder Rabatte versprechen. Dieser primär technische Fehler wird dann schnell zur juristischen Falle, wenn Unternehmen das System vorab nicht rechtlich abgesichert haben. Wenn sie in solchen Fällen vor Gericht argumentieren, dass KI-Modelle eben gelegentlich halluzinieren, stoßen sie auf taube Ohren. Die Gerichte sehen das Unternehmen in der Pflicht und lassen es für die falschen Aussagen seiner Systeme haften. Neben der neuen europäischen KI-Verordnung greifen bei all diesen Fällen klassische Regelungen aus dem Datenschutz, dem Urheberrecht und dem Zivilrecht. Wer empfindliche Bußgelder oder Schadensersatzforderungen vermeiden will, muss rechtliche Fragen also von Anfang an klären. Die verbreitete Taktik des „Legal by Disaster“ – den Anwalt erst zu rufen, wenn der Schaden bereits entstanden ist – funktioniert hier schlichtweg nicht. Gefragt ist stattdessen eine AI Governance nach dem Prinzip „Legal by Design“, bei der juristische Leitplanken am allerersten Tag der Konzeption verankert werden.
Damit diese Leitplanken im echten Betrieb auch halten, braucht es belastbare technische Methoden. Hier setzt GenAI-Ops an, eine Weiterentwicklung der bekannten DevOps Prinzipien.
Das Fundament bildet dabei die sogenannte Observability. Weil generative KI im Grunde immer irgendeine Antwort liefert – völlig egal, ob fachlich korrekt oder totaler Unsinn –, laufen klassische Fehlermetriken hier ins Leere. Man muss also genauer hinsehen: Mittels LLM-Tracing lässt sich auswerten, wie viele Tokens verbraucht werden, welche Prompts das System konkret aufruft und welche Quelldokumente es nutzt. Das bringt endlich Licht in die Blackbox und macht Fehler gezielt auffindbar.
Genauso wichtig ist ein professionelles Prompt-Management. Prompts sind der neue Programmcode und müssen dementsprechend modular aufgebaut, streng versioniert und zentral verwaltet werden. Das senkt die Deployment-Kosten massiv, weil nicht bei jeder kleinen Anpassung das komplette System neu ausgerollt werden muss. Doch selbst der am besten verwaltete Prompt garantiert noch keine fehlerfreien Ergebnisse. Deshalb folgt im nächsten Schritt zwingend die Evaluation – also die Qualitätskontrolle des Outputs. Ob eine KI-Antwort inhaltlich stimmt oder ungewollt toxische Aussagen enthält, muss kontinuierlich geprüft werden. Offline-Tests vor dem Start reichen da nicht aus. Im kundennahen Live-Betrieb übernehmen daher oft kleinere, spezialisierte KI-Modelle die Rolle eines automatisierten Prüfers, der die Ausgaben des Hauptsystems in Echtzeit bewertet.
Den ultimativen Schutzrahmen bilden abschließend die Guardrails. Input-Guardrails blockieren kritische Anfragen schon im Ansatz, während Output-Guardrails das finale Ergebnis vor der Auslieferung an den Nutzer absichern. Nur wenn Transparenz, technische Kontrolle und juristische Weitsicht auf diese Weise ineinandergreifen, entfaltet die Technologie jenseits des Hypes ihren echten wirtschaftlichen Wert.
Termine
|
Mittwoch18.11.2614:00-15:30
|
| Workshop "Jenseits des Hypes: GenAI-Ops für zuverlässige KI-Anwendungen" |
|
|
Weitere Informationen
Kontakt
Dr. Erik Dethier
- Hochschule Bonn-Rhein-Sieg
- Mittelstand 4.0-Kompetenzzentrum Usability
- Grantham-Allee 20
- 53757 Sankt Augustin