Wie gewinnen Chatbots unser Vertrauen?

Ob beim Online-Shopping, im Kundenservice oder sogar bei der Hausaufgabenhilfe: Immer öfter sitzen auf der anderen Seite des Bildschirms keine Menschen mehr, sondern Chatbots. Sie sind schnell, rund um die Uhr verfügbar – und erstaunlich oft ziemlich charmant. Was bis vor wenigen Jahren noch als technisches Spielzeug galt, hat sich längst zum digitalen Alltagsbegleiter gemausert. Doch damit wir uns wirklich auf die virtuellen Assistenten einlassen, braucht es Vertrauen. Wie gelingt es ihnen, genau das bei uns aufzubauen?

Wann vertrauen wir anderen Menschen?

Da Chatbots in vielen Fällen als Menschenersatz dienen, ist zunächst interessant zu wissen, was uns überhaupt anderen Menschen vertrauen lässt. Wie frühere Studien gezeigt haben, spielen hier drei Eigenschaften eine wichtige Rolle. Eine davon ist die wahrgenommene Kompetenz des Gegenübers. So schenken wir einem Arzt mit Fachkenntnissen deutlich mehr Vertrauen als einem, der in seinem eigenen Gebiet unsicher wirkt.

Ebenfalls wichtig: Integrität. Wer stets genau das tut, was er sagt, und dabei ehrlich sowie seinen Werten treu bleibt, wird als vertrauenswürdiger wahrgenommen. Zu guter Letzt ist noch das Wohlwollen des anderen entscheidend. Wenn wir das Gefühl haben, dass es jemand gut mit uns meint, dann ist das eine wichtige Basis dafür, dass wir ihm vertrauen.

Wann vertrauen wir Chatbots?

Diese drei zwischenmenschlichen Maßstäbe gelten tatsächlich auch für unser Vertrauen in Chatbots, wie eine Studie nun gezeigt hat. Darin sollten Testpersonen die Konversationen von Nutzern mit einem fiktiven Chatbot bewerten und sich vorstellen, sie interagierten selbst mit ihm. Wie sich herausstellte, waren den Testpersonen vor allem Kompetenz und Integrität bei den Antworten ihres fiktiven Gesprächspartners wichtig. Wurde beides zu ihrer Zufriedenheit erfüllt, war das Wohlwollen des KI-Chatbots nicht mehr ganz so entscheidend.

Das hatte auch zur Folge, dass die Studienteilnehmer personalisierte Chatbots, die ihre Nutzer mit Namen ansprechen und Bezug auf frühere Unterhaltungen nehmen, nicht vertrauenswürdiger fanden als unpersönliche Chatbots. Zwar steigerte die wohlwollende persönliche Ebene die Bereitschaft der Testpersonen, den KI-Chatbot zu nutzen und persönliche Informationen mit ihm zu teilen, doch das Vertrauenslevel blieb gleich.

Wieso ist Integrität so wichtig?

Dass die Studienteilnehmer der Integrität des Chatbots einen so großen Wert beimaßen, beruhigt die beiden Studienautorinnen Fanny Lalot und Anna-Marie Betram von der Universität Basel. Denn ist ein KI-Chatbot zu unkritisch und bestätigt alle Aussagen eines Nutzers, fehlt der Realitätsabgleich und es besteht die Gefahr einer digitalen Echokammer, die im schlimmsten Fall dazu führt, dass sich jemand von seinem sozialen Umfeld isoliert. „Eine Freundin oder ein Freund würde hoffentlich irgendwann intervenieren, wenn jemand zu verrückte oder unmoralische Ideen entwickelt“, betont Lalot.

Auch interessant: Die Befragten schrieben Kompetenz, Integrität und Wohlwollen nicht etwa dem Unternehmen hinter dem Chatbot zu, sondern direkt der KI. „Unsere Studie zeigt, dass sie die KI gewissermaßen als eigenständiges Wesen wahrnehmen“, erklärt Lalot.

Sollten wir Chatbots überhaupt vertrauen?

Das heißt aber auch: „Wir projizieren mehr in KI-Systeme hinein, als tatsächlich vorhanden ist“, so Lalot weiter. Umso wichtiger seien deshalb vertrauenswürdige Chatbots, die uns weder belügen noch alles, was wir sagen, ohne Wenn und Aber gutheißen, betonen die Forscherinnen. Doch können wir immer wissen, ob die KI sich rechtschaffen verhält? Und ist es überhaupt sinnvoll, einem Chatbot voll und ganz zu vertrauen?

Eher weniger. Denn Chatbots basieren auf Daten und Algorithmen und sind daher keineswegs unfehlbar. Zum Beispiel können sie falsche oder veraltete Informationen liefern oder Zusammenhänge falsch verstehen. Außerdem können die Daten, mit denen Chatbots trainiert wurden, Vorurteile enthalten, wodurch die KI unbeabsichtigt diskriminierende Antworten gibt. Ebenfalls kritisch zu betrachten ist die Frage des Datenschutzes. Denn Chatbots sammeln oft persönliche Daten – und wenn der Anbieter nicht vertrauenswürdig ist, können schnell sensible Informationen gefährdet sein.

Lalot sieht das Ganze allerdings ein wenig neutraler: Für sie sind KI-Chatbots zunächst einmal ein Werkzeug, mit dem wir lernen müssen, umzugehen, ähnlich wie mit den Chancen und Risiken der sozialen Medien. „Wir machen mit unserer Studie keine Aussage darüber, ob Vertrauen in einen Chatbot gut oder schlecht ist“, betont die Forscherin.