Mensch-Computer-Interaktion im Zeitalter der Künstlichen Intelligenz:
Qualität der Daten, Verzerrungen und neue Herausforderungen

Die zunehmende Integration von KI-Systemen in die HCI hat grundlegende Veränderungen in der Art und Weise bewirkt, wie Menschen mit technologischen Systemen interagieren. Besondere Aufmerksamkeit wird auf die Qualität der Daten gelegt, die diese Systeme antreiben, sowie auf die verschiedenen Formen von Verzerrungen, die in diesen Daten und Algorithmen auftreten können. Die Arbeit schließt mit Empfehlungen für bewährte Verfahren in der Data Science, die zur Entwicklung fairerer, transparenterer und benutzerzentrierter KI-gestützter Interaktionssysteme beitragen können.

Ursprung

Die Mensch-Computer-Interaktion (HCI) hat sich von einfachen Schnittstellen mit Kommandozeilen zu komplexen, adaptiven und vorhersagenden Systemen entwickelt, die zunehmend auf Künstlicher Intelligenz basieren. Diese Entwicklung hat neue Möglichkeiten eröffnet, aber auch neue Herausforderungen mit sich gebracht, insbesondere im Hinblick auf die Qualität der Daten, die diese Systeme trainieren und informieren, sowie auf die Verzerrungen, die sich in diesen Systemen manifestieren können.

Die traditionelle HCI konzentrierte sich hauptsächlich auf die Gestaltung von Benutzeroberflächen und Interaktionsparadigmen, um die Benutzererfahrung zu verbessern. Mit dem Aufkommen der KI hat sich dieser Fokus jedoch auf die Entwicklung von Systemen verlagert, die in der Lage sind, menschliches Verhalten zu verstehen, vorherzusagen und darauf zu reagieren. Diese Systeme stützen sich auf große Datenmengen, deren Qualität und Repräsentativität direkte Auswirkungen auf die Effektivität und Fairness der resultierenden Interaktionen haben.

Evolution der Mensch-Computer-Interaktion

Historische Entwicklung der HCI

Die Mensch-Computer-Interaktion hat eine bemerkenswerte Evolution durchlaufen – von der frühen Kommandozeilenschnittstelle über grafische Benutzeroberflächen (GUIs) bis hin zu natürlichen Benutzerschnittstellen (NUIs). Jeder dieser Entwicklungsschritte war darauf ausgerichtet, die Interaktion zwischen Mensch und Computer intuitiver und zugänglicher zu gestalten.

Die frühen HCI-Systeme erforderten von den Benutzern spezifische Kenntnisse über Befehle und Syntax. Mit der Einführung von GUIs in den 1980er Jahren wurde die Interaktion durch visuell dargestellte Elemente wie Fenster, Symbole und Menüs vereinfacht. Die Entwicklung von Touchscreens und Gestensteuerung führte schließlich zu NUIs, die eine natürlichere Interaktion ermöglichten, die der Art und Weise ähnelt, wie Menschen mit ihrer physischen Umgebung interagieren.

Die Integration von KI in die HCI

Die Integration von KI-Technologien in die HCI markiert einen Paradigmenwechsel. Anstatt auf explizite Befehle zu warten, können moderne Schnittstellen Absichten verstehen, Bedürfnisse antizipieren und sich an individuelle Benutzer anpassen. Diese Evolution wird durch mehrere Schlüsseltechnologien vorangetrieben:

– Natürliche Sprachverarbeitung (NLP): Ermöglicht die Interaktion durch gesprochene oder geschriebene Sprache, wodurch die Kommunikation mit Technologie intuitiver wird.

– Computer Vision: Ermöglicht Systemen, visuelle Informationen zu interpretieren, was Anwendungen wie Gestensteuerung, Emotionserkennung und kontextbewusste Interaktion ermöglicht.

– Maschinelles Lernen (ML): Ermöglicht Systemen, aus Interaktionen zu lernen und sich anzupassen, was zu personalisierten Erfahrungen führt, die auf individuelle Benutzervorlieben und -verhalten zugeschnitten sind.

– Affective Computing: Zielt darauf ab, menschliche Emotionen zu erkennen und darauf zu reagieren, was eine empathischere und reaktionsfähigere Interaktion ermöglicht.

Diese KI-gestützte HCI hat zu neuartigen Interaktionsparadigmen geführt, darunter Sprachassistenten, konversationelle Schnittstellen, immersive Umgebungen und adaptive Systeme, die sich an den Kontext und die Bedürfnisse des Benutzers anpassen.

## 3. Datenqualität in KI-gestützten HCI-Systemen

### 3.1 Dimensionen der Datenqualität

Die Qualität der Daten, die KI-Systeme antreiben, ist von entscheidender Bedeutung für deren Leistung und Fairness. Mehrere Dimensionen charakterisieren die Datenqualität:

– **Genauigkeit**: Die Korrektheit und Zuverlässigkeit der Daten. Ungenaue Daten können zu falschen Modellvorhersagen führen, die die Benutzerinteraktion beeinträchtigen.

– **Vollständigkeit**: Die Abdeckung aller relevanten Informationen. Unvollständige Daten können zu Lücken im Verständnis des Systems führen, was zu suboptimalen Interaktionen führt.

– **Konsistenz**: Die Übereinstimmung zwischen verschiedenen Datenpunkten. Inkonsistenzen können zu widersprüchlichen Verhaltensweisen des Systems führen, was die Benutzererfahrung beeinträchtigt.

– **Aktualität**: Die zeitliche Relevanz der Daten. Veraltete Daten können zu Interaktionen führen, die nicht mehr relevant oder nützlich sind.

– **Repräsentativität**: Die Vielfalt und Ausgewogenheit der Daten. Nicht repräsentative Daten können zu Systemen führen, die bestimmte Benutzergruppen bevorzugen oder benachteiligen.

### 3.2 Herausforderungen bei der Sicherstellung der Datenqualität

Die Sicherstellung hochwertiger Daten für KI-gestützte HCI-Systeme ist mit mehreren Herausforderungen verbunden:

– **Datenerfassung**: Die Erfassung umfassender und repräsentativer Daten erfordert sorgfältige Planung und Ressourcen. Oft werden Daten in kontrollierten Umgebungen gesammelt, die möglicherweise nicht die Komplexität realer Interaktionen widerspiegeln.

– **Datenvorverarbeitung**: Die Bereinigung, Transformation und Normalisierung von Daten ist ein arbeitsintensiver Prozess, der oft Kompromisse zwischen Datenintegrität und praktischen Überlegungen erfordert.

– **Datenlücken**: Fehlende Daten für bestimmte Benutzergruppen oder Szenarien können zu Systemen führen, die nicht für alle Benutzer gleichermaßen gut funktionieren.

– **Datenschutz und Ethik**: Die Erfassung und Nutzung von Benutzerdaten wirft wichtige ethische Fragen auf, insbesondere wenn es sich um sensible Informationen handelt, die für personalisierte Interaktionen verwendet werden.

## 4. Verzerrungen (Biases) in KI-gestützten HCI-Systemen

### 4.1 Typen von Verzerrungen

Verzerrungen in KI-Systemen können die Fairness, Zugänglichkeit und Effizienz der Mensch-Computer-Interaktion erheblich beeinträchtigen. Diese Verzerrungen können verschiedene Formen annehmen:

– **Stichprobenverzerrung**: Entsteht, wenn die Trainingsdaten nicht repräsentativ für die Gesamtpopulation sind, was dazu führt, dass das System für einige Benutzergruppen besser funktioniert als für andere.

– **Vorurteilsverzerrung**: Spiegelt vorhandene gesellschaftliche Vorurteile wider, die in den Trainingsdaten enthalten sind und vom System erlernt und verstärkt werden können.

– **Bestätigungsverzerrung**: Tritt auf, wenn Systeme so entwickelt werden, dass sie bestehende Annahmen oder Erwartungen der Entwickler bestätigen.

– **Automationsverzerrung**: Beschreibt die Tendenz der Benutzer, den Ausgaben automatisierter Systeme übermäßig zu vertrauen, selbst wenn diese fehlerhaft sein könnten.

– **Präsentationsverzerrung**: Bezieht sich darauf, wie Informationen präsentiert werden, was die Wahrnehmung und Entscheidungsfindung der Benutzer beeinflussen kann.

### 4.2 Ursprünge von Verzerrungen

Verzerrungen in KI-gestützten HCI-Systemen können aus verschiedenen Quellen stammen:

– **Datenverzerrungen**: Entstehen aus unausgewogenen, unvollständigen oder nicht repräsentativen Trainingsdaten.

– **Algorithmische Verzerrungen**: Resultieren aus der Gestaltung und Implementierung der Algorithmen selbst, einschließlich der gewählten Merkmale, Gewichtungen und Optimierungsziele.

– **Interaktionsverzerrungen**: Entstehen während der tatsächlichen Mensch-Computer-Interaktion, wobei die Art und Weise, wie Benutzer mit dem System interagieren, zu verzerrten Ergebnissen führen kann.

– **Interpretationsverzerrungen**: Treten auf, wenn die Ausgaben des Systems auf eine Weise interpretiert werden, die bestehende Annahmen oder Vorurteile verstärkt.

### 4.3 Auswirkungen von Verzerrungen auf die HCI

Die Auswirkungen von Verzerrungen auf die Mensch-Computer-Interaktion können weitreichend sein:

– **Ungleicher Zugang**: Systeme können für bestimmte Benutzergruppen weniger zugänglich oder nützlich sein, was digitale Ungleichheiten verstärkt.

– **Verstärkung von Stereotypen**: KI-Systeme können bestehende Stereotypen und Vorurteile verstärken, indem sie diese in ihren Interaktionen und Empfehlungen reproduzieren.

– **Fehlerhafte Entscheidungsfindung**: Verzerrte Systeme können zu fehlerhaften oder unfairen Entscheidungen führen, die Benutzer beeinträchtigen können.

– **Eingeschränkte Vielfalt**: Systeme können eine eingeschränkte Palette von Perspektiven, Vorlieben oder Optionen präsentieren, die die Vielfalt der Benutzerbasis nicht widerspiegeln.

## 5. Transformation der HCI durch KI

### 5.1 Neue Interaktionsparadigmen

KI hat grundlegend neue Wege der Mensch-Computer-Interaktion ermöglicht:

– **Konversationelle Schnittstellen**: Sprachassistenten und Chatbots ermöglichen natürlichere und zugänglichere Interaktionen, die weniger technisches Wissen erfordern.

– **Adaptive Benutzeroberflächen**: Systeme, die sich dynamisch an die Vorlieben, Fähigkeiten und den Kontext des Benutzers anpassen, bieten personalisierte Erfahrungen.

– **Proaktive Systeme**: KI-Systeme, die Bedürfnisse antizipieren und Informationen oder Aktionen bereitstellen, bevor sie explizit angefordert werden.

– **Multimodale Interaktion**: Systeme, die mehrere Eingabemodalitäten (Sprache, Gesten, Berührung) kombinieren, um natürlichere und flexiblere Interaktionen zu ermöglichen.

### 5.2 Veränderte Benutzererwartungen und -verhalten

Die Integration von KI in die HCI hat die Erwartungen und Verhaltensweisen der Benutzer verändert:

– **Erwartung von Personalisierung**: Benutzer erwarten zunehmend, dass Systeme ihre Vorlieben, Geschichte und ihren Kontext verstehen und berücksichtigen.

– **Vertrauen und Skepsis**: Das Vertrauen in KI-Systeme variiert, wobei Benutzer zwischen übermäßigem Vertrauen in die Fähigkeiten des Systems und Skepsis gegenüber seinen Entscheidungen und der Verwendung ihrer Daten schwanken.

– **Veränderte mentale Modelle**: Die Art und Weise, wie Benutzer verstehen und konzeptualisieren, wie Technologie funktioniert, entwickelt sich als Reaktion auf zunehmend komplexe und undurchsichtige Systeme weiter.

### 5.3 Herausforderungen für Designer und Entwickler

Designer und Entwickler von KI-gestützten HCI-Systemen stehen vor neuen Herausforderungen:

– **Transparenz und Erklärbarkeit**: Die Schaffung von Systemen, die ihre Funktionsweise, Entscheidungen und Einschränkungen kommunizieren können.

– **Balancierung von Autonomie und Kontrolle**: Die Bestimmung des richtigen Gleichgewichts zwischen der Autonomie des Systems und der Benutzerkontrolle in verschiedenen Kontexten.

– **Ethische Gestaltung**: Die Berücksichtigung der ethischen Implikationen von KI-Systemen, einschließlich Fragen der Fairness, Privatsphäre und des potenziellen Schadens.

– **Interdisziplinäre Zusammenarbeit**: Die Notwendigkeit der Zusammenarbeit zwischen verschiedenen Disziplinen, darunter Informatik, Psychologie, Design und Ethik, um wirksame und verantwortungsvolle Systeme zu schaffen.

## 6. Best Practices für Data Science in der KI-gestützten HCI

### 6.1 Datenerfassung und -management

– **Repräsentative Stichproben**: Sicherstellung, dass Datensätze verschiedene Benutzergruppen, Szenarien und Kontexte repräsentieren.

– **Dokumentation und Metadata**: Sorgfältige Dokumentation der Datenherkunft, Sammlung und Verarbeitungsprozesse zur Förderung der Transparenz und Reproduzierbarkeit.

– **Datenschutz by Design**: Integration von Datenschutz- und Sicherheitsüberlegungen in alle Phasen der Datensammlung und -nutzung.

– **Kontinuierliche Datenüberwachung**: Implementierung von Prozessen zur kontinuierlichen Überwachung und Bewertung der Datenqualität und -relevanz im Laufe der Zeit.

### 6.2 Modellentwicklung und -bewertung

– **Diverse Bewertungsmetriken**: Verwendung mehrerer Metriken zur Bewertung der Modellleistung, die verschiedene Aspekte der Benutzererfahrung und Fairness berücksichtigen.

– **Fairness-Audits**: Durchführung systematischer Bewertungen der Modellvorhersagen für verschiedene Benutzergruppen, um Ungleichheiten zu identifizieren.

– **Nutzerzentrierte Bewertung**: Einbeziehung von Benutzerfeedback und qualitativen Bewertungen zusätzlich zu technischen Metriken.

– **Robustheitstests**: Bewertung der Modellleistung unter verschiedenen Bedingungen und mit verschiedenen Eingaben, um potenzielle Schwachstellen zu identifizieren.

### 6.3 Verzerrungsminderung und Fairness

– **Algorithmic Fairness**: Anwendung von Techniken zur Minderung von Verzerrungen während der Modellentwicklung und -implmentierung.

– **Diversität im Designteam**: Förderung vielfältiger und inklusiver Designteams, um verschiedene Perspektiven und Erfahrungen einzubeziehen.

– **Partizipatives Design**: Einbeziehung einer vielfältigen Gruppe von Benutzern in den Designprozess, insbesondere derjenigen, die potenziell von Verzerrungen betroffen sein könnten.

– **Transparenz und Erklärbarkeit**: Entwicklung von Mechanismen, um Benutzern zu helfen, die Funktionsweise des Systems und die Faktoren, die seine Entscheidungen beeinflussen, zu verstehen.

## 7. Zukünftige Richtungen und Herausforderungen

### 7.1 Aufkommende Technologien und Ansätze

– **Föderiertes Lernen**: Ermöglicht das Training von Modellen über verteilte Datensätze, ohne dass sensible Daten geteilt werden müssen, was die Privatsphäre verbessert.

– **Erklärbare KI (XAI)**: Entwicklung von Techniken, um die „Black Box“ der KI-Systeme zu öffnen und transparentere und verständlichere Interaktionen zu ermöglichen.

– **Kontinuierliches Lernen**: Systeme, die kontinuierlich aus Interaktionen lernen und sich anpassen, um relevanter und nützlicher zu werden.

– **Sensorintegration**: Integration einer breiteren Palette von Sensoren und Modalitäten, um reichhaltigere und kontextbewusstere Interaktionen zu ermöglichen.

### 7.2 Ethische und gesellschaftliche Überlegungen

– **Digitale Inklusion**: Sicherstellung, dass KI-gestützte HCI-Systeme für Benutzer mit unterschiedlichen Fähigkeiten, Hintergründen und Ressourcen zugänglich und nützlich sind.

– **Regulatorische Rahmenbedingungen**: Navigation in einer sich entwickelnden regulatorischen Landschaft, die die Entwicklung und den Einsatz von KI-Technologien zunehmend gestaltet.

– **Ökologische Nachhaltigkeit**: Berücksichtigung der ökologischen Auswirkungen von KI-Systemen, einschließlich des Energieverbrauchs und der Ressourcennutzung.

– **Globale Perspektiven**: Berücksichtigung kultureller Unterschiede und globaler Kontexte bei der Gestaltung von KI-Systemen, die über Grenzen und Kulturen hinweg eingesetzt werden.

## 8. Schlussfolgerungen

Die Integration von KI in die Mensch-Computer-Interaktion bietet beispiellose Möglichkeiten, die Art und Weise, wie wir mit Technologie interagieren, zu verbessern und zu transformieren. Sie bringt jedoch auch erhebliche Herausforderungen mit sich, insbesondere im Hinblick auf die Qualität der Daten, die diese Systeme antreiben, und die Verzerrungen, die sich in ihnen manifestieren können.

Um das volle Potenzial der KI-gestützten HCI zu realisieren, ist ein bewusster und proaktiver Ansatz erforderlich, der die Qualität, Vielfalt und Repräsentativität der Daten priorisiert und Strategien zur Erkennung und Minderung von Verzerrungen implementiert. Dies erfordert interdisziplinäre Zusammenarbeit, kontinuierliche Bewertung und ein tiefes Engagement für ethische Prinzipien und Benutzerbedürfnisse.

Indem wir diese Herausforderungen angehen, können wir KI-gestützte HCI-Systeme entwickeln, die nicht nur leistungsfähig und effizient sind, sondern auch fair, inklusiv und vertrauenswürdig – Systeme, die wirklich im Dienste aller Benutzer stehen.

Referenzen

1. Amershi, S., Weld, D., Vorvoreanu, M., Fourney, A., Nushi, B., Collisson, P., … & Horvitz, E. (2019). Guidelines for human-AI interaction. Proceedings of the CHI Conference on Human Factors in Computing Systems, 1-13.
2. Barocas, S., & Selbst, A. D. (2016). Big data’s disparate impact. California Law Review, 104, 671-732.
3. Beul-Leusmann, S., Samsel, C., Wiederhold, M., Krempels, K. H., Jakobs, E. M., & Ziefle, M. (2014). Usability evaluation of mobile passenger information systems. Proceedings of the International Conference on Design, User Experience, and Usability, 217-228.
4. Card, S. K., Newell, A., & Moran, T. P. (1983). The psychology of human-computer interaction. Lawrence Erlbaum Associates.
5. Chou, J. S., & Ngo, N. T. (2016). Smart grid data analytics framework for increasing energy efficiency and thermal comfort of buildings. Expert Systems with Applications, 56, 63-80.
6. Dix, A., Finlay, J., Abowd, G. D., & Beale, R. (2004). Human-computer interaction. Pearson Education.
7. Dove, G., Halskov, K., Forlizzi, J., & Zimmerman, J. (2017). UX design innovation: Challenges for working with machine learning as a design material. Proceedings of the CHI Conference on Human Factors in Computing Systems, 278-288.
8. Ehsan, U., & Riedl, M. O. (2020). Human-centered explainable AI: Towards a reflective sociotechnical approach. International Conference on Human-Computer Interaction, 449-466.
9. Gebru, T., Morgenstern, J., Vecchione, B., Vaughan, J. W., Wallach, H., Daumé III, H., & Crawford, K. (2018). Datasheets for datasets. arXiv preprint arXiv:1803.09010.
10. Holstein, K., Wortman Vaughan, J., Daumé III, H., Dudík, M., & Wallach, H. (2019). Improving fairness in machine learning systems: What do industry practitioners need? Proceedings of the CHI Conference on Human Factors in Computing Systems, 1-16.
11. Jansen, B. J. (1998). The graphical user interface: An introduction. SIGCHI Bulletin, 30(2), 22-26.
12. Jiang, J., Hassan Awadallah, A., Jones, R., Ozertem, U., Zitouni, I., Gurunath Kulkarni, R., & Khan, O. Z. (2015). Automatic online evaluation of intelligent assistants. Proceedings of the 24th International Conference on World Wide Web, 506-516.
13. Jhangiani, R., & Chiang, I. C. A. (2018). Research methods in psychology. BCcampus.
14. Kaptein, M. C., Nass, C., & Markopoulos, P. (2010). Powerful and consistent analysis of likert-type rating scales. Proceedings of the SIGCHI Conference on Human Factors in Computing Systems, 2391-2394.
15. Kittur, A., Chi, E. H., & Suh, B. (2008). Crowdsourcing user studies with Mechanical Turk. Proceedings of the SIGCHI Conference on Human Factors in Computing Systems, 453-456.
16. Norman, D. A. (2013). The design of everyday things: Revised and expanded edition. Basic Books.
17. Picard, R. W. (2000). Affective computing. MIT press.
18. Preece, J., Rogers, Y., & Sharp, H. (2015). Interaction design: Beyond human-computer interaction. John Wiley & Sons.
19. Riedl, M. O. (2019). Human‐centered artificial intelligence and machine learning. Human Behavior and Emerging Technologies, 1(1), 33-36.
20. Shneiderman, B., Plaisant, C., Cohen, M., Jacobs, S., Elmqvist, N., & Diakopoulos, N. (2016). Designing the user interface: Strategies for effective human-computer interaction. Pearson.
21. Wang, D., Yang, Q., Abdul, A., & Lim, B. Y. (2019). Designing theory-driven user-centric explainable AI. Proceedings of the CHI Conference on Human Factors in Computing Systems, 1-15.
22. Wickens, C. D., Hollands, J. G., Banbury, S., & Parasuraman, R. (2015). Engineering psychology and human performance. Psychology Press.
23. Yang, Q., Steinfeld, A., & Zimmerman, J. (2019). Unremarkable AI: Fitting intelligent decision support into critical, clinical decision-making processes. Proceedings of the CHI Conference on Human Factors in Computing Systems, 1-11.
24. Zhu, H., Yu, B., Halfaker, A., & Terveen, L. (2018). Value-sensitive algorithm design: Method, case study, and lessons. Proceedings of the ACM on Human-Computer Interaction, 2(CSCW), 1-23.