Vertrauen als Engpassfaktor der Künstlichen Intelligenz

Nicht jede KI begegnet ihren Nutzenden auf dieselbe Weise. Im Experiment vergleichen wir deshalb zwei Gestaltungslogiken: eine intransparente KI, die lediglich eine Empfehlung ausgibt, und eine transparente KI, die zusätzlich nachvollziehbar macht, wie diese Einschätzung zustande kommt. Beide Formen sind in Unternehmen bereits Realität. Trotzdem ist bislang kaum belastbar untersucht, welche Art von KI-Unterstützung im Arbeitsalltag eher akzeptiert wird – und ob Erklärbarkeit das Vertrauen tatsächlich stärkt.

Genau hier liegt der Kern des Versuchs: Die Differenz zwischen der ersten Entscheidung und der späteren Reaktion auf den KI-Hinweis macht sichtbar, wie stark Menschen sich von KI beeinflussen lassen – und wie viel Zutrauen sie dem jeweiligen System entgegenbringen. Zugleich bleibt die KI im Experiment nicht statisch. Ihre Hinweise verändern sich im Zeitverlauf, sie wird angepasst und schrittweise weiterentwickelt. Dadurch entsteht ein realitätsnaher Interaktionsverlauf, in dem Vertrauen nicht einfach vorhanden ist, sondern sich aufbauen, verschieben oder auch wieder verlieren kann.

Nach dem ersten Drittel des Experiments treten gezielt Sondereffekte auf, durch die die KI-Hinweise zeitweise an Genauigkeit verlieren. Erst vor dem letzten Drittel werden diese Effekte im Modell berücksichtigt. So lässt sich beobachten, wie sensibel Vertrauen auf wahrgenommene Schwankungen in der Systemleistung reagiert. Gemessen wird dabei nicht nur, ob Entscheidungen aufgrund von KI geändert werden. Im Mittelpunkt stehen ebenso der Verlauf des Vertrauens über die Zeit, die Akzeptanz der unterschiedlichen KI-Typen und die Frage, welche Form der Unterstützung unter Unsicherheit tatsächlich trägt.

Erste Vorstudien mit einer Gruppe von Studierenden liefern bereits Hinweise auf klare Tendenzen. Sie zeigen, dass Vertrauen nicht allein von der rechnerischen Qualität einer Empfehlung abhängt, sondern stark davon, wie die KI im Entscheidungsprozess wahrgenommen wird. Um diesen Effekt greifbar zu machen, bewerteten die Teilnehmenden nach jeder Entscheidung auf einer Skala von 1 bis 10, wie sicher sie sich waren, richtig entschieden zu haben. Dadurch wird sichtbar, ob KI nicht nur Entscheidungen verändert, sondern auch das subjektive Sicherheitsgefühl der Nutzenden beeinflusst.

Über alle Phasen hinweg zeigt sich ein konsistentes Muster: Mit zunehmender Erfahrung im Umgang mit dem System steigt die Bereitschaft der Teilnehmenden, KI-Empfehlungen zu übernehmen. Die Ursachen dafür liegen jedoch nicht ausschließlich in wachsendem Vertrauen. Ebenso denkbar sind mangelndes Verständnis der Systementscheidungen oder eine zunehmende kognitive Entlastung, bei der Entscheidungen verstärkt an die KI delegiert werden.

Für die Implementierung solcher Systeme in der Praxis zeigt sich, dass vorherige Tests und Befragungen entscheidend sind. Annahmen – etwa, dass einer transparenten KI deutlich stärker vertraut wird als einer intransparenten – haben sich in dieser Untersuchung nicht in der erwarteten Deutlichkeit bestätigt.

Um gewünschte Erfolge und definierte Ziele in der Praxis zu erreichen, müssen Mitarbeitende im Veränderungsprozess abgeholt werden. Ihnen sollte kein System top down aufgezwungen werden, das am Ende nicht in der vorgesehenen Weise angenommen und genutzt wird.