Mit der zunehmenden Verbreitung generativer KI-Systeme gewinnt die Frage nach ihrer Erklärbarkeit an Bedeutung. Anwenderinnen und Anwender stehen häufig vor der Herausforderung, Entscheidungen oder Ergebnisse von KI-Systemen zwar nutzen zu können, deren Entstehung jedoch kaum nachvollziehen zu können. Explainable AI (XAI) bezeichnet daher den Forschungs- und Anwendungsbereich, der Methoden entwickelt, um Entscheidungen, Vorhersagen oder generierte Inhalte von KI-Systemen transparent, nachvollziehbar und überprüfbar zu machen. Ziel ist es, Vertrauen zu schaffen, Fehlentscheidungen zu vermeiden und die Zusammenarbeit zwischen Mensch und Maschine zu verbessern.
- SDG: #04 Hochwertige Bildung
- SDG: #09 Industrie, Innovation und Infrastruktur
