Strategien zur Erhöhung der Transparenz von Assistenzsystemen sind ein wichtiger Ansatz zur Verbesserung ihrer Verständlichkeit und damit ihrer Vertrauenswürdigkeit. Dieses Projekt wurde durchgeführt, um zu verstehen, wie Menschen bei wiederholter Anwendung Vertrauen zu personalisierten Assistenzsystemen entwickeln. Es untersucht die Dynamik der Wiederherstellung des Vertrauens im Falle von Systemfehlfunktionen und die Wirksamkeit von Systemtransparenz/-erklärungen zur Unterstützung der Vertrauensbildung und -wiederherstellung.

Um die an der Vertrauensbildung beteiligten Prozesse zu verstehen, haben wir zunächst die Schlüsselkonzepte definiert und die Verbindung zwischen ihnen auf der Grundlage der Literatur über erklärbare KI und Erklärungswissenschaften dargelegt. Insbesondere haben wir analysiert, wie die Erklärbarkeit eines Systems und die Vertrauensbildung in verschiedenen Phasen einer Interaktion zusammenhängen. Darüber hinaus wird die Rolle Dritter, wie z. B. kommerzieller Unternehmen, als fördernder oder behindernder Faktor für die Entwicklung von Vertrauen des Einzelnen gegenüber einem selbstbewussten System untersucht. Anschließend wurden die intrinsischen Grenzen und grundlegenden Merkmale von Erklärungen, wie strukturelle Eigenschaften und Kommunikationsstrategien, ermittelt und diskutiert.

Um die aus der Literaturrecherche abgeleiteten Hypothesen zu testen, wurde ein Experiment mit einem Anwendungsfall konzipiert und durchgeführt, der einen personalisierten Lernassistenten (PLANT) beinhaltet. Wir wollten untersuchen, wie Menschen im Laufe der Zeit Vertrauen in personalisierte Assistenzsysteme entwickeln, indem wir ein abstrahierendes System nachahmten, das die Teilnehmer beim Lernen neuer Texte und bei der Bearbeitung von Quizfragen unterstützt. Wir haben ein 2 x 2 Studiendesign entwickelt, das die Fehlfunktion und die Transparenz des Systems manipuliert. Ein kombinierter qualitativer und quantitativer methodischer Ansatz wurde verwendet, um die Daten von 184 Teilnehmern zu analysieren.

Projektpartner:innen