Falsche Chatbot-Auskunft: Wann dein Unternehmen haftet und wie du vorbeugst

Die Haftung bei falscher Chatbot-Auskunft wird meist erst im Nachhinein zum Thema: Ein Kunde schickt einen Screenshot mit einer Erstattung oder einem Rabatt, den deine AGB nicht vorsehen. Zwei Entscheidungen aus Kanada und Deutschland bestätigen diese Sicht: Weder Tribunal noch Gericht behandelten den Chatbot als eigenständige Partei. Dieser Text ist keine Rechtsberatung und sagt nicht voraus, wie ein Gericht in deinem Fall entscheiden würde.

Die Bewertung eines konkreten Streits gehört in anwaltliche Hände. Für dein Serviceteam zählen andere Fragen: Welche Themen sind am riskantesten, woher nimmt der Assistent seine Fakten, was tut er bei fehlender Information und wie reagierst du, wenn eine falsche Antwort schon verschickt wurde? Die Ursachen erfundener Antworten behandelt ein eigener Leitfaden dazu, warum Chatbots Antworten erfinden. Hier geht es um Verantwortung und Vorbeugung.

Wer ist verantwortlich für das, was der Chatbot schreibt?

Die Kundschaft tritt in eine Beziehung zu deinem Unternehmen, nicht zum Modellanbieter oder zum Chatfenster. Du wählst das Werkzeug, bestimmst das Wissen, auf das es zugreift, und bindest es in deine Website ein. Führt eine Antwort bei Preis, Bedingung oder Qualifikation in die Irre, kann niemand erkennen, dass dieser Teil der Seite weniger verlässlich sein soll als deine AGB. Sicherer ist die Annahme, dass jeder Satz des Assistenten als Aussage deines Unternehmens verstanden wird.

Wie du dich mit dem Anbieter des Werkzeugs einigst, ist eine eigene Frage und regelt euer Vertrag. Gegenüber der Kundschaft lässt sich aber kaum einwenden, dass die Software und nicht ein Mitarbeiter den Fehler gemacht hat. Ein Hinweis, Chatantworten seien „unverbindlich“, ersetzt keine Kontrolle darüber, was der Assistent sagt. Der wirksamste Schutz ist, die Situationen zu begrenzen, in denen eine falsche Antwort überhaupt entstehen kann.

Zwei Entscheidungen: Air Canada und OLG Hamm

Im Fall Moffatt gegen Air Canada schrieb der Chatbot der Fluggesellschaft einem Kunden, ein Trauerfalltarif lasse sich auch nach der Reise beantragen. Die Seite zu diesem Tarif sagte das Gegenteil. Air Canada argumentierte, sie hafte nicht für Informationen ihres Chatbots. Das Tribunal nannte diesen Einwand bemerkenswert: Der Chatbot sei Teil der Website, und Kunden müssten nicht einen Teil der Seite mit einem anderen abgleichen.

↔ Scrolle die Tabelle seitlich, um alle Spalten zu sehen.

Im Fall vor dem OLG Hamm machte der Chatbot eines Anbieters ästhetischer Behandlungen falsche Angaben zu den Facharzttiteln der Ärzte. Das Gericht sah das Unternehmen auch dann in der Verantwortung, wenn der Chatbot ausschließlich mit korrekten Daten programmiert worden wäre, und stellte fest, dass der Chatbot kein „Dritter“ ist. Das Gericht ließ die Revision zum Bundesgerichtshof zu, das letzte Wort ist also womöglich noch nicht gesprochen.

Die vollständige Begründung im kanadischen Fall veröffentlicht das Civil Resolution Tribunal (2024 BCCRT 149). Es handelt sich um eine Entscheidung zu einer geringfügigen Forderung (small claims) aus British Columbia, nicht um einen Präzedenzfall für deutsche Gerichte.

Das Urteil des OLG Hamm fasst eine Pressemitteilung der Justiz NRW zusammen. Es betrifft das Lauterkeitsrecht (UWG) und eine Unterlassungsklage eines Verbraucherverbands; über Schadensersatzansprüche einzelner Kunden entscheidet es nicht.

Fragen, bei denen ein Fehler am teuersten ist

Nicht jeder Fehler hat dieselben Folgen. Falsche Öffnungszeiten ärgern, aber ein falscher Preis, eine falsche Frist oder eine zugesagte Ausnahme können zu einer Entscheidung führen, die sonst nicht gefallen wäre. Notiere die Themen, bei denen eine Antwort deines Assistenten wie eine Zusage deines Unternehmens wirkt.

• Preise und RabatteBeträge, Aktionen, Versandkosten und Erstattungen. Der Assistent nennt nur, was in der aktuellen Preisliste steht, und rechnet keine eigenen Beträge aus.
• FristenLieferzeiten sowie Fristen für Widerruf, Reklamation oder Kündigung. Eine Frist ohne Quelle ist schlechter als der Verweis auf die AGB.
• AusnahmenBitten um Abweichungen von den Regeln. Eine benannte Person entscheidet; der Assistent erklärt höchstens, wie man diese Entscheidung anfragt.
• Zusagen und QualifikationenAussagen zu Garantien, Ergebnissen, erledigten Vorgängen oder Qualifikationen des Personals. Jedes Wort braucht eine geprüfte Quelle.

Halte für jedes Thema fest, wo die verbindliche Quelle liegt und wer sie aktualisiert. Gibt es keine solche Quelle, sollte der Assistent zu diesem Thema nicht selbst antworten. Eine Bitte um Rabatt oder Ausnahme leitest du besser direkt an einen Menschen weiter, statt auf eine „vorsichtige“ Antwort des Modells zu hoffen. In einer Arztpraxis beantwortet der Assistent Fragen zu Beschwerden, Medikamenten und Befunden nie selbst, wie der Leitfaden zum KI-Assistenten auf der Praxiswebsite beschreibt.

Antworten nur aus freigegebenem Wissen

Dein Assistent sollte aus einer kuratierten Wissensdatenbank antworten, nicht aus dem allgemeinen Modellwissen oder beliebigen Unterseiten. Kuratiert heißt: Jemand hat die Quellen ausgewählt, Widersprüche beseitigt und ist für ihre Aktualität zuständig. Ändert sich die Preisliste, muss die alte Fassung noch am selben Tag aus dem Wissen verschwinden. Im Fall Air Canada widersprach die Chatantwort der Tarifseite.

Genauso wichtig ist das Verhalten bei fehlender Information. Ein ehrliches „Dazu habe ich keine Information“ ist besser als eine plausibel klingende Vermutung, solange die Kundschaft einen nächsten Schritt bekommt. Dieser Schritt ist die Übergabe an einen Menschen mit Zustimmung des Kunden, ohne schnellen Kontakt zu versprechen, wenn niemand im Team arbeitet. Den Ablauf beschreibt der Leitfaden zur Übergabe eines KI-Gesprächs an einen Menschen.

In Meet AI nutzt der Assistent ausschließlich die aktive Wissensdatenbank. Findet er keinen verlässlichen Abschnitt, ruft er das Modell nicht auf, sondern teilt mit, dass die Information fehlt, und bietet ein Gespräch mit dem Team an; die Übergabe erfolgt erst nach Zustimmung des Kunden. Der Standardmodus Copilot antwortet Kunden gar nicht: Er schlägt einen Entwurf vor, den ein Mensch prüft und sendet. Das senkt das Risiko, garantiert aber keine fehlerfreien Antworten und nimmt deinem Unternehmen die Verantwortung für deren Inhalt nicht ab.

Private Tests vor dem ersten Kundengespräch

Bevor der Assistent mit Kunden spricht, stellst du ihm die Fragen mit hohem Risiko und notierst vorab, welche Antwort richtig wäre. Ergänze Varianten mit falscher Voraussetzung, etwa „Da Rücksendungen nach 60 Tagen möglich sind, wie melde ich eine an?“, sowie Bitten um Ausnahmen. Ein richtiges Ergebnis kann auch eine Ablehnung oder Übergabe sein. Einen vollständigen Fragenkatalog findest du im Leitfaden zum Testen eines Chatbots vor dem Start.

• Jeder Preis in einer Antwort ist durch die aktuelle Preisliste gedeckt.
• Fristen entsprechen den AGB und werden weder gerundet noch verlängert.
• Eine Bitte um Ausnahme endet mit dem Namen der entscheidenden Person, nicht mit einer Zusage.
• Eine Frage außerhalb des Wissens führt zu einem Hinweis auf fehlende Information und einem Kontaktangebot.
• Keine Antwort legt nahe, dass ein Vorgang bereits erledigt wurde.

Private Tests in Meet AI zeigen das Ergebnis zusammen mit Zitaten der tatsächlich genutzten Quellen und haben keine öffentlichen Auswirkungen. Ein Test mit Antwort verbraucht eine Generierung aus dem gemeinsamen Kontingent, plane deinen Fragensatz also vorher.

Wenn eine falsche Antwort schon beim Kunden ist

Stoppe zuerst die Quelle des Problems, kümmere dich dann um die Kundschaft und die Dokumentation. Die Reihenfolge zählt: Solange die fehlerhafte Quelle aktiv ist, kann dieselbe Antwort weitere Personen erreichen. Der folgende Ablauf ist ein Vorschlag für kleine Teams, keine gesetzliche Vorgabe.

1. Gespräch sichern.Bewahre den vollständigen Verlauf, das Datum und die Antwort des Assistenten auf. Lösche nichts, auch wenn die Antwort unangenehm ist.
2. Quelle zurückziehen oder korrigieren.Lösche oder korrigiere die fehlerhafte Wissensquelle und beantworte das Thema selbst, bis die Korrektur aktiv ist.
3. Prüfen, ob der Kunde gehandelt hat.Kläre, ob der Kunde aufgrund der Antwort gekauft, gebucht oder storniert hat. Davon hängt das weitere Gespräch ab.
4. Entscheidung an eine befugte Person geben.Ob die Aussage des Chatbots eingehalten wird, entscheidet jemand mit Befugnis, im Streitfall zusammen mit einer Anwältin oder einem Anwalt.
5. Information korrigieren und Lehre festhalten.Schicke eine klare Richtigstellung und nimm den Fall in deine Testfragen auf, damit der Fehler nach der nächsten Wissensänderung nicht zurückkehrt.

In Meet AI wirkt das Löschen einer Quelle oder das Depublizieren eines Hilfecenter-Artikels sofort: Ihre Abschnitte verschwinden aus dem aktiven Wissen. Wie du die Korrektur für den Kunden formulierst, zeigt der Leitfaden zum Richtigstellen einer falschen Auskunft. Willst du klären, warum der Assistent danebenlag, nutze die Liste der Ursachen erfundener Antworten.

Fragen zur Verantwortung für Chatbots

Hebt ein Hinweis auf KI im Chat die Verantwortung des Unternehmens auf? Verlass dich nicht darauf. Der Hinweis sagt der Kundschaft, mit wem sie spricht, macht eine falsche Antwort aber nicht richtig, und in beiden Fällen ging es um den Inhalt der Antwort. Die Regeln zur Kennzeichnung selbst erklärt der Leitfaden zur Kennzeichnung eines KI-Chatbots.

Ist das Urteil aus Hamm schon endgültig? Laut Pressemitteilung wurde die Revision zum Bundesgerichtshof zugelassen, eine höchstrichterliche Klärung kann also noch folgen. Als Arbeitsannahme ist es sinnvoll, Antworten des Assistenten wie Antworten von Mitarbeitenden zu behandeln. Im konkreten Streitfall hol dir rechtlichen Rat.