Shadow AI im Kundenservice: Wenn Chats in private KI-Tools gelangen

Shadow AI im Kundenservice bedeutet, dass jemand im Team ein KI-Tool außerhalb der freigegebenen Auswahl nutzt: ein privates Chatbot-Konto, eine Browsererweiterung oder eine App auf dem eigenen Handy. Das Problem: Mit der Eingabe landet auch der Gesprächsinhalt im Tool, also Kundenname, Bestellnummer oder die Beschreibung einer Reklamation. Dein Unternehmen weiß dann nicht, wo diese Daten liegen, wer darauf zugreifen kann und ob der Anbieter sie für eigene Zwecke verwenden darf.

Dieser Leitfaden betrifft dein eigenes Team, nicht die Kundschaft. Wenn Kunden im Chat Daten senden, die sie nicht teilen sollten, findest du das Vorgehen im Artikel über sensible Daten im Chat. Der Text ist keine Rechtsberatung; kläre Einzelheiten mit der Person, die in deinem Unternehmen für Datenschutz zuständig ist.

Shadow AI im Service: Woher es kommt und was du riskierst

Shadow AI beginnt selten mit böser Absicht. Meist stecken Zeitdruck in der Warteschlange, ein fehlendes freigegebenes Tool oder eine vage Regel wie „sei vorsichtig mit KI“ dahinter. Ein Verbot ohne Alternative verlagert diese Nutzung dorthin, wo sie niemand sieht, beseitigt sie aber nicht.

Das Risiko hat mehrere Ebenen. Erstens die Daten: Ein Kundengespräch enthält fast immer Informationen über eine bestimmte Person, auch ohne Nachnamen. Zweitens die Nutzungsbedingungen: Für ein privates Konto gelten die Bedingungen, die die Mitarbeiterin akzeptiert hat, nicht der Vertrag deines Unternehmens. Drittens die Qualität: Eine Antwort aus einem Tool, das dein Angebot nicht kennt, kann überzeugend klingen und trotzdem falsch sein. Viertens die fehlende Nachvollziehbarkeit: Wenn ein Kunde eine Antwort beanstandet, weiß niemand, woher der strittige Satz stammt.

Der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit empfiehlt in seiner Checkliste für LLM-basierte Chatbots vom November 2023 Organisationskonten statt privater Konten, schriftliche Nutzungsregeln und keine Eingabe personenbezogener Daten, wenn der Anbieter sie für eigene Zwecke verarbeiten darf. Es handelt sich um die Orientierungshilfe einer Aufsichtsbehörde, nicht um ein Gesetz, und die dort beschriebenen Tool-Einstellungen können sich inzwischen geändert haben.

Bestandsaufnahme: Frag dein Team, statt es zu überwachen

Bevor du Regeln schreibst, finde heraus, was die Leute tatsächlich nutzen und wofür. Am einfachsten geht das mit einer kurzen Umfrage oder einem Gespräch im Teammeeting, verbunden mit der klaren Aussage, dass die Antworten der Tool-Auswahl dienen und nicht der Beurteilung von Beschäftigten. Installiere keine Überwachungssoftware auf privaten Handys und sieh nicht in private Konten.

Frag nach Aufgaben, nicht nach Marken. „Wofür hast du zuletzt KI bei einer Kundenantwort verwendet?“ verrät mehr als „Nutzt du ChatGPT?“. Das folgende Beispiel betrifft einen fiktiven Onlineshop mit fünfköpfigem Serviceteam.

↔ Scrolle die Tabelle seitlich, um alle Spalten zu sehen.

Jede Zeile mit der Entscheidung „ausgesetzt“ zeigt einen echten Bedarf ohne gute Lösung. Werden Zusammenfassungen täglich gebraucht, reicht ein Verbot allein nicht; du musst eine Arbeitsweise anbieten, die einen ähnlichen Nutzen bringt.

Regeln auf einer Seite: Was erlaubt ist, was nicht und wen du fragst

Regeln müssen sich mitten im Gespräch anwenden lassen, ohne in Dokumenten zu suchen. Die Hamburger Checkliste rät zu konkreten Beispielen für erlaubte und verbotene Einsatzszenarien, denn ein allgemeines „nutze es vernünftig“ hilft fünf Minuten vor Schichtende niemandem.

• Eine Liste der Tools, die für Gesprächsinhalte freigegeben sind und über ein Firmenkonto statt eines privaten Kontos genutzt werden.
• Kein Einfügen von Kundendaten, Bestellnummern, Anhängen oder ganzen Verläufen in andere Tools.
• Ein Beispiel für erlaubte Nutzung ohne Daten: „Formuliere einen höflichen Satz, der eine Rücksendung nach Fristablauf ablehnt“.
• Ein Beispiel für verbotene Nutzung: „Antworte Frau Becker aus Bestellung 4821, die Folgendes schreibt …“.
• Die Pflicht, Fakten, Preise und Termine vor dem Senden zu prüfen, egal aus welchem Tool der Entwurf stammt.
• Ein Meldeweg für Fehler und eine Ansprechperson für Datenschutzfragen.

Dieselbe Grenze gilt für Material, das dein Team dem Wissen des Assistenten hinzufügen will. Dokumente mit Daten bestimmter Kunden gehören weder in einen privaten Chatbot noch in eine gemeinsame Wissensbasis; wie du Quellen auswählst, erklärt der Leitfaden welche Quellen ins Chatbot-Wissen gehören.

Ein sicheres Vorgehen für Antwortentwürfe

Regeln wirken besser, wenn es neben dem Verbot einen einfachen erlaubten Weg gibt. Das folgende Vorgehen setzt voraus, dass dein Unternehmen ein freigegebenes Tool mit Firmenkonto und Wissen aus eigenen Quellen hat.

1. Zweck der Antwort benennen.Lege in einem Satz fest, was die Nachricht klären soll. Das verringert die Versuchung, das ganze Gespräch „für den Kontext“ einzufügen.
2. Freigegebenes Tool im Postfach nutzen.Der Entwurf entsteht dort, wo das Gespräch läuft und wo Firmenberechtigungen sowie der Vertrag mit dem Anbieter gelten.
3. Fakten und Zusagen prüfen.Gleiche Preise, Termine und erledigte Vorgänge mit der Quelle oder dem System ab, bevor sie im Text bleiben.
4. Bearbeiten und manuell senden.Wer antwortet, verantwortet die gesamte Nachricht, auch Sätze, die nach dem Einfügen des Entwurfs ergänzt wurden.
5. Wissenslücke festhalten.Fehlte dem Tool eine Information, gib das Thema an die verantwortliche Person für die Quelle weiter, statt in einer privaten App nach einer Antwort zu suchen.

In Meet AI bereitet Copilot einen privaten Vorschlag für das Teammitglied vor, das das Gespräch betreut und antworten darf. Der Vorschlag stützt seine Fakten auf das aktive Wissen der Website und sendet sich nie selbst: Der Entwurf wird in den Editor eingefügt, bearbeitet und manuell gesendet. Bei der Installation bestätigt eine Administratorin oder ein Administrator die Information zum Modellanbieter und zur Übermittlung von Gesprächsinhalten, sodass die Entscheidung auf Unternehmensebene fällt und nicht bei einer einzelnen Person. Eine eigene Prüfung der Rechtskonformität ersetzt das nicht. Die tägliche Kontrolle solcher Entwürfe beschreibt der Leitfaden zur Freigabe von KI-Antwortvorschlägen. Was ein Unternehmen vor der Bestätigung eines Modellanbieters prüfen sollte, zeigt unsere DSGVO-Checkliste für KI im Kundenservice.

Wenn ein Gespräch schon in einem privaten Tool gelandet ist

Die Meldung muss einfach sein und darf nicht automatisch eine Strafe bedeuten. Beschäftigte sollten wissen, dass ihre Aufgabe darin besteht, die benannte Person schnell zu informieren, und nicht darin, selbst zu beurteilen, ob eine Datenpanne vorliegt. Die Bewertung der Folgen und etwaiger Pflichten gegenüber der Aufsichtsbehörde liegt bei der Person, die für Datenschutz zuständig ist.

Die Meldung beschreibt die Art der Daten, nicht ihren Inhalt. Kopiere die vertrauliche Kundennachricht nicht noch einmal in eine E-Mail, den Team-Messenger oder eine Notiz, denn damit entsteht eine weitere Kopie. Enthielt die Antwort aus dem privaten Tool einen Fehler, bereite die Korrektur für den Kunden nach dem Leitfaden zur Richtigstellung einer falschen Antwort vor.

Schulung statt einmaliger Rundmail

Regeln, die man einmal am Tag der Vertragsunterzeichnung liest, sind schnell vergessen. Ein kurzes Gespräch über konkrete Beispiele wirkt besser: Zeig zwei Entwürfe, einen mit Kundendaten und einen ohne, und frag, welcher in welches Tool eingefügt werden darf.

Laut den Fragen und Antworten der Europäischen Kommission zur KI-Kompetenz gilt Artikel 4 des AI Act seit dem 2. Februar 2025, verlangt kein Zertifikat und betrifft auch Beschäftigte, die bei der Arbeit Tools wie ChatGPT nutzen. Die Quelle legt weder die Dauer einer Schulung fest noch entscheidet sie, ob ein bestimmtes Unternehmen die Pflicht erfüllt.

Nimm das Thema in die erste Woche neuer Teammitglieder auf, neben den Regeln zu Kundendaten. Wie so ein Start aussieht, beschreibt der Leitfaden zur Einarbeitung eines neuen Teammitglieds. Führe eine einfache Übersicht, wer die Regeln wann besprochen hat; laut Kommission kann eine interne Dokumentation der Schulungen ein Zertifikat ersetzen.

Fragen zu Shadow AI im Serviceteam

Reicht es, private KI-Tools zu verbieten? Ein Verbot allein verlagert die Nutzung meist aus dem Blickfeld. Die Hamburger Checkliste warnt, dass man ohne schriftliche Regeln von einer unbefugten und unkontrollierten Nutzung solcher Tools durch Beschäftigte ausgehen muss. Wirksamer ist ein Verbot zusammen mit einer freigegebenen Alternative, Beispielen und einem einfachen Meldeweg.

Genügt es, den Namen zu entfernen, bevor man ein Gespräch einfügt? Nicht immer. Dasselbe Dokument weist darauf hin, dass es nicht reicht, Namen und Adressen zu entfernen, weil sich eine Person aus dem Kontext erkennen lässt. Im Service sind das oft Bestelldetails, Ort und Zeitpunkt. Beschreibt ein Ausschnitt den Fall eines bestimmten Kunden, behandle ihn als personenbezogene Daten und arbeite damit nur im freigegebenen Tool.