Mit der zunehmenden Integration künstlicher Intelligenz (KI) in den Kundenservice wuchs auch die Notwendigkeit, den Einsatz dieser Technologien zu regulieren.

Die KI-Verordnung der Europäischen Union setzt hier an und soll sicherstellen, dass die Nutzung von KI verantwortungsvoll und vertrauenswürdig erfolgt. Ein zentrales Element der Verordnung sind weitreichende Transparenz- und Erklärungsanforderungen, die auch für KI-Lösungen im Kundenservice relevant sind.

I.               Transparenzanforderungen

Die in der KI-Verordnung gestellten Anforderungen an die Transparenz verlangen, dass Unternehmen ihren Kunden klar und deutlich mitteilen, wenn sie mit einem KI-System interagieren. Dies bedeutet, dass Kunden jederzeit wissen müssen, ob sie mit einem menschlichen Mitarbeiter oder einer KI-Anwendung interagieren.
Diese Anforderung soll das Vertrauen der Kunden fördern, in dem folgende Maßnahmen umgesetzt werden:

1. Offenlegung: Unternehmen müssen explizit darauf hinweisen, dass eine KI im Einsatz ist. Dies kann durch Ansagen, Popup-Nachrichten oder Hinweise auf Webseiten und in Apps erfolgen
2. Informationen: Kunden sollten leicht verständliche Informationen darüber erhalten, wie die KI funktioniert und welche Aufgaben sie übernimmt. Diese könnten in Form von FAQs, Erklärvideos oder schriftlichen Dokumentationen bereitgestellt werden.
3. Kontaktmöglichkeiten: Dem Kunden soll die Möglichkeit gegeben werden, auf Wunsch mit einem menschlichen Mitarbeiter zu sprechen. Dies stellt sicher, dass Kunden, die sich mit der Interaktion mit einer KI unwohl fühlen, weiterhin eine zufriedenstellende Service-Erfahrung haben.

II.              Erklärungsanforderungen

Die Anforderungen an die Erklärungen gegenüber dem Nutzer, gehen über die bloße Transparenz noch hinaus und fordern, dass die Funktionsweise der KI-Systeme verständlich gemacht wird. Dies ist besonders wichtig, wenn durch die KI Entscheidungen, die wesentliche Auswirkungen auf die Kunden haben, getroffen werden. Die können z.B. Kreditentscheidungen, Preisberechnungen oder personalisierte Angebote sein.

Wesentliche Bestandteile der Erklärungsanforderungen sind:

1. Nachvollziehbare Entscheidungsprozesse: Kunden müssen in der Lage sein, zu verstehen, wie und warum eine KI zu einer bestimmten Entscheidung gekommen ist. Dies bedeutet, dass Unternehmen ihre Algorithmen und Entscheidungslogiken in einer verständlichen Weise dokumentieren und erklären müssen.
2. Erklärung der Datenbasis: Es muss klar werden, welche Daten die KI verwendet hat, um ihre Entscheidungen zu treffen. Gegebenfalls ist auch darüber zu informieren, wie die Daten erhoben wurden oder aus welcher (externen) Quelle sie stammen. Die Datenverarbeitung muss transparent und datenschutzkonform erfolgen.
3. Verantwortlichkeit und Kontrolle: Unternehmen müssen darlegen, wie sie die KI-Systeme überwachen und welche Maßnahmen sie ergreifen, um Fehler zu korrigieren oder Fehlentscheidungen zu vermeiden. Dies schließt auch die Möglichkeit ein, dass Kunden Entscheidungen anfechten oder überprüfen lassen können.

Die Umsetzung der Transparenz- und Erklärungsanforderungen stellt Unternehmen vor Herausforderungen, bietet aber auch Vorteile:

Vertrauensbildung:
Durch eine konsequente Umsetzung der KI-Verordnung können Unternehmen das Vertrauen ihrer Kunden in die Technologie stärken und die Akzeptanz von KI-Systemen erhöhen.

Kundenzufriedenheit: Kunden, die verstehen, wie und warum Entscheidungen getroffen werden, sind eher zufrieden und fühlen sich fair behandelt. In Verbindung mit einem sinnvollen Einsatz von KI können Kundenerwartungen sogar übertroffen werden.

Wettbewerbsvorteil: Unternehmen, die transparente und erklärbare KI-Lösungen anbieten, können sich als verantwortungsbewusste und kundenorientierte Marktführer positionieren.

Insgesamt fördert die KI-Verordnung einen verantwortungsvollen und transparenten Umgang mit KI im Kundenservice. Unternehmen, die die Anforderungen erfüllen, können nicht nur regulatorische Risiken minimieren, sondern auch das Vertrauen und die Zufriedenheit ihrer Kunden nachhaltig stärken.

Zur Übersicht