Künstliche Intelligenz ist im E-Commerce auf dem Vormarsch. Viele Unternehmen setzen auf ihren Webseiten Chatbots ein. Diese digitalen Helfer beantworten Fragen von Kunden rund um die Uhr, vereinbaren Termine und entlasten den Kundenservice. Doch was passiert, wenn die KI plötzlich anfängt zu lügen?
Ein aktuelles Urteil des Oberlandesgerichts (OLG) Hamm vom 12. Mai 2026 (Az. 4 UKl 3/25) bringt nun Klarheit. Unternehmen haften für die Falschaussagen ihrer Chatbots in vollem Umfang. Wir zeigen Ihnen, worum es in dem Fall ging und was Website-Betreiber jetzt zwingend beachten müssen.
Der Fall: Der halluzinierende Chatbot
Hintergrund des Rechtsstreits war die Website einer Schönheitsklinik. Die Betreiber, zwei Ärzte in der Rechtsform einer GmbH, nutzten einen KI-basierten Chatbot. Besucher der Website können in Echtzeit Fragen stellen und Termine buchen. Auf konkrete Nachfragen von Nutzern erfand die KI jedoch plötzlich Fakten. Der Chatbot behauptete, die beiden Geschäftsführer seien „Fachärzte für plastische und ästhetische Chirurgie“ sowie „Fachärzte für ästhetische Medizin“.
Diese Titel waren schlichtweg frei erfunden. Die Ärzte besaßen diese Qualifikationen überhaupt nicht. Solche KI-Erfindungen nennt man in der Fachsprache „Halluzinationen“. Die Verbraucherzentrale Nordrhein-Westfalen wurde auf diesen Umstand aufmerksam. Sie mahnte die Klinik ab und forderte eine strafbewehrte Unterlassungserklärung. Zwar schaltete das Unternehmen den Chatbot daraufhin sofort ab, weigerte sich aber, die Erklärung zu unterschreiben. Die Verteidigung der Klinik: man habe die KI ausschließlich mit korrekten Daten gefüttert. Für eigenmächtige Erfindungen der Software könne das Unternehmen folglich nicht verantwortlich gemacht werden.
Das Urteil: Volle Haftung für die KI
Das OLG Hamm ließ diese Argumentation nicht gelten und verurteilte die Klinik. Das Gericht stufte die falschen Antworten des Chatbots als irreführende geschäftliche Handlung gemäß § 5 des Gesetzes gegen den unlauteren Wettbewerb (UWG) ein. Die Richter stellten unmissverständlich klar: Wer einen KI-Chatbot im geschäftlichen Verkehr einsetzt, muss sich dessen Aussagen wie eigene Aussagen zurechnen lassen.
Ein Chatbot ist kein „Dritter“ im juristischen Sinne. Ein Unternehmen kann die Schuld für Wettbewerbsverstöße also nicht einfach auf die Software oder den externen IT-Dienstleister abwälzen. Selbst wenn die Klinik beweisen kann, dass sie den Bot fehlerfrei trainiert hat, bleibt sie in der vollen Verantwortung. Wer die wirtschaftlichen Vorteile einer KI nutzt, trägt auch das volle Risiko für deren Fehler. Wegen der grundsätzlichen Bedeutung dieser neuen Rechtsfrage hat das OLG Hamm die Revision zum Bundesgerichtshof (BGH) zugelassen.
Weitere Pflichten: Datenschutz, Impressum und Barrierefreiheit
Dieses Urteil hat weitreichende Folgen für den gesamten E-Commerce. Wer einen Chatbot einsetzt, muss die Antworten regelmäßig überwachen und technische Leitplanken setzen, um Falschaussagen zu verhindern. Neben dem Wettbewerbsrecht lauern beim Einsatz von KI jedoch noch weitere rechtliche Fallstricke.
Ein großes Thema ist der Datenschutz. Chatbots sammeln oft ungefragt sensible personenbezogene Daten, wenn Nutzer beispielsweise Namen, Adressen oder gesundheitliche Details in das Chatfenster eintippen. Betreiber müssen in ihrer Datenschutzerklärung transparent darüber aufklären, was mit diesen Chat-Protokollen geschieht und ob die Eingaben zum weiteren Training der KI verwendet werden.
Zudem darf der Chatbot nicht über die Identität des Unternehmens hinwegtäuschen. Es muss für den Nutzer jederzeit klar sein, mit wem er es zu tun hat. Ein Verweis auf das rechtsgültige Impressum der Website direkt im Chat-Fenster oder in unmittelbarer Nähe ist daher dringend zu empfehlen.
Ein weiterer, sehr aktueller Punkt betrifft die gesetzliche Barrierefreiheit. Digitale Angebote im E-Commerce müssen zunehmend so gestaltet sein, dass sie von allen Menschen genutzt werden können. Das schließt auch interaktive Elemente wie Chatbots ein. Diese müssen so programmiert sein, dass sie auch von Menschen mit Sehbehinderungen oder motorischen Einschränkungen bedient werden können – etwa durch die Kompatibilität mit Screenreadern. Wer die Barrierefreiheit ignoriert, riskiert nicht nur den Verlust potenzieller Kunden, sondern auch teure Abmahnungen.
Fazit
Das Urteil des OLG Hamm ist ein deutlicher Weckruf für alle Unternehmen, die Künstliche Intelligenz im Kundenkontakt einsetzen. Chatbots sind kein rechtsfreier Raum. Erfindet die KI falsche Qualifikationen, Preise oder Produkteigenschaften, haftet das Unternehmen dafür ohne Wenn und Aber. Betreiber von Online-Shops und Dienstleister sollten ihre digitalen Assistenten daher streng kontrollieren und testen. Wer dabei zusätzlich die gesetzlichen Vorgaben zu Datenschutz, Impressum und Barrierefreiheit konsequent umsetzt, kann die enormen Vorteile der KI nutzen, ohne ein unkalkulierbares rechtliches Risiko einzugehen.