Themen wie Nutzerzentrierung, Ethik oder gesellschaftliche Auswirkungen von Technologien können leicht als Aspekte des Entwicklungsprozesses abgetan werden, die erst relevant werden, wenn ein Produkt technisch funktioniert. Die zugrunde liegende Annahme lautet oft, dass zunächst etwas Greifbares entstehen müsse, bevor später Fragen zur Nutzung, Akzeptanz oder zu möglichen Risiken geklärt werden können. Auf den ersten Blick erscheint diese Denkweise effizient. In der Praxis verursacht sie jedoch häufig genau die Probleme, die Unternehmen später teuer korrigieren müssen: eine geringe Nutzerakzeptanz, Fehlentwicklungen, regulatorische Risiken, kostspielige Nachbesserungen oder sogar Reputationsschäden.
Forschung zeigt, dass frühe Entwicklungsentscheidungen einen überproportional großen Einfluss auf die späteren Kosten und den Erfolg eines Produkts haben [1]. Fehler oder Fehlannahmen, die erst später im Prozess erkannt werden, verursachen deutlich höhere Anpassungskosten als solche, die bereits während der Konzeption identifiziert werden. Werden ethische Fragestellungen oder die tatsächlichen Bedürfnisse der Nutzer:innen erst nach der Entwicklung berücksichtigt, müssen häufig nicht nur einzelne Funktionen angepasst werden. Oft sind grundlegende Änderungen an den Annahmen erforderlich, auf denen das gesamte Produktkonzept basiert. Human-Centered Design und Technikethik helfen dabei, solche Fehlentwicklungen frühzeitig zu erkennen und zu vermeiden – bevor hohe Entwicklungs- und Implementierungskosten entstehen.
Human-Centered Design und Technikethik
Die internationale Norm ISO 9241-210 definiert Human-Centered Design (HCD) als einen Ansatz, bei dem die Bedürfnisse, Fähigkeiten, Kontexte und Ziele der Menschen während des gesamten Entwicklungsprozesses berücksichtigt werden [2]. Ziel ist es, Systeme zu entwickeln, die nicht nur technisch funktionieren, sondern für die Menschen auch verständlich, nützlich, zugänglich und angenehm zu nutzen sind. Im Mittelpunkt steht die Frage, welche Probleme Menschen tatsächlich haben und wie diese durch Technologie sinnvoll gelöst werden können.
Technikethik beschäftigt sich mit der Frage, welche Auswirkungen Technologien auf Menschen, Organisationen und die Gesellschaft haben und wie diese Auswirkungen verantwortungsvoll gestaltet werden können [3]. Dabei geht es nicht darum, technische Innovationen zu verhindern oder Unternehmen zusätzliche Hürden aufzuerlegen. Vielmehr soll Technikethik dabei helfen, mögliche Risiken frühzeitig zu erkennen und zu vermeiden. Fragen der Technikethik sind beispielsweise: Werden bestimmte Personengruppen ausreichend berücksichtigt? Werden persönliche Daten angemessen geschützt? Können Entscheidungen eines Systems nachvollzogen werden? Wer trägt Verantwortung, wenn Fehler auftreten? Entstehen durch den Einsatz der Technologie unbeabsichtigte negative Folgen für Menschen oder die Gesellschaft?
Warum Sie vom Einsatz dieser Konzepte profitieren
Die Integration dieser beiden Konzepte ist somit nicht nur eine Frage gesellschaftlicher Verantwortung, sondern leistet einen direkten Beitrag zum wirtschaftlichen Erfolg eines Unternehmens. Produkte werden nicht alleine deshalb erfolgreich, wenn sie technisch innovativ sind. Entscheidend ist, ob sie ein relevantes Problem lösen und von den Menschen tatsächlich genutzt werden. Wenn Nutzer:innen frühzeitig in die Entwicklung einbezogen werden, gewinnen Unternehmen ein besseres Verständnis dafür, welche Herausforderungen tatsächlich bestehen und welche Lösungen benötigt werden.
Dadurch sinkt das Risiko, Zeit und Ressourcen in Funktionen oder Produkte zu investieren, die am Markt keinen ausreichenden Bedarf haben. Gleichzeitig können Entwicklungs- und Anpassungskosten reduziert werden. Fehlannahmen, die früh erkannt werden, lassen sich meist mit vergleichsweise geringem Aufwand korrigieren. Werden Probleme hingegen erst kurz vor der Markteinführung oder nach der Veröffentlichung sichtbar, sind häufig umfangreiche Änderungen notwendig. Die frühzeitige Berücksichtigung von Nutzerbedürfnissen und ethischen Fragestellungen trägt daher dazu bei, kostspielige Nachbesserungen zu vermeiden und Ressourcen effizienter einzusetzen.
Forschung zeigt zudem, dass ethische Anforderungen deutlich effektiver umgesetzt werden können, wenn sie bereits während der Konzeption berücksichtigt werden. Werden ethische Aspekte hingegen erst nachträglich hinzugefügt, bleiben sie häufig oberflächlich oder verursachen hohe Anpassungskosten [4].
Ein weiterer Vorteil liegt im Aufbau von Vertrauen. Insbesondere im Bereich der Künstlichen Intelligenz ist Vertrauen ein zentraler Erfolgsfaktor. Nutzer:innen akzeptieren technische Systeme nur dann langfristig, wenn diese als nachvollziehbar, fair und zuverlässig wahrgenommen werden [5]. Unternehmen, die transparent kommunizieren und Risiken verantwortungsvoll adressieren, schaffen Vertrauen bei Kund:innen, Mitarbeitenden und Geschäftspartnern. Dieses Vertrauen kann langfristig zu einer stärkeren Kundenbindung und einer höheren Akzeptanz neuer Technologien führen.
Darüber hinaus nehmen die gesetzlichen Anforderungen an Datenschutz, digitale Produkte und KI kontinuierlich zu. Unternehmen, die ethische Fragestellungen bereits während der Wnteicklung berücksichtigen, sind häufig besser auf regulatorische Anforderungen vorbereitet. Dadurch lassen sich spätere Anpassungen und rechtliche Risiken minimieren.
Letztlich helfen Human-Centered Design und Technikethik helfen dabei, Innovationen nachhaltiger zu gestalten. Neue Produkte sind nur dann langfristig erfolgreich, wenn sie von den Menschen akzeptiert und genutzt werden. Die Integration dieser Konzepte fördern damit nicht nur die Qualität einzelner Produkte, sondern stärket auch die Innovations- und Wettbewerbsfähigkeit eines Unternehmens.
Fazit
Technikethik und HCD verfolgen unterschiedliche Schwerpunkte, ergänzen sich jedoch im Entwicklungsprozess ideal – während HCD vor allem fragt, ob eine Lösung die Bedürfnisse der Menschen erfüllt, legt Technikethik zusätzlich den Fokus auf Risikomanagement und langfristiger Wertschöpfung. Gemeinsam unterstützen beide Ansätze Unternehmen dabei, fundiertere Entscheidungen zu treffen – und zwar zu einem Zeitpunkt, an dem Anpassungen nocj vergleichsweise einfach und kostengünstig sind.
Human-Centered Design und Technikethik sind daher keine zusätzlichen Aufgaben, die erst am Ende eines Projekts berücksichtigt werden sollten. Sie sind strategische Werkzeuge, die dabei helfen, bessere Produkte zu entwickeln, Vertrauen aufzubauen und langfristig wettbewerbsfähig zu bleiben.
Im zweiten Teil dieses Artikels zeigen wir, wie sich menschzentrierte und ethische Gestaltung mit überschaubarem Aufwand in die Praxis integrieren lässt.
[1] Tan, J. J., Otto, K. N., & Wood, K. L. (2017). Relative impact of early versus late design decisions in systems development. Design Science, 3, e12.
[2] International Organization for Standardization. (2019). ISO 9241-210:2019 Ergonomics of human-system interaction — Human-centred design for interactive systems.
[3] Grunwald, A., & Hillerbrand, R. (Eds.). (2013). Handbuch Technikethik. Stuttgart: Metzler.
[4] Brey, P., & Dainow, B. (2024). Ethics by design for artificial intelligence. AI and Ethics, 4(4), 1265-1277.
[5] Zhou, J., Verma, S., Mittal, M., & Chen, F. (2021, October). Understanding relations between perception of fairness and trust in algorithmic decision making. In 2021 8th International Conference on Behavioral and Social Computing (BESC) (pp. 1-5). IEEE.
