Der Einsatz von Künstlicher Intelligenz im Kundenkontakt ist längst keine Zukunftsmusik mehr. Doch mit der Automatisierung steigen auch die rechtlichen Risiken für Unternehmen. Unsere Redaktion hat Rechtsanwalt Timo Schutt (Anwaltskanzlei Schutt) zum Thema befragt, um zu klären, wo die juristischen Stolperfallen liegen und wie sich Geschäftsführer absichern können.
Die Haftung bei Fehlern
Eine KI „halluziniert“ im Sales-Prozess und macht einem Kunden falsche Preisangaben oder Rabattversprechen. Wer haftet rechtlich für diesen Fehler?
RA Timo Schutt: Grundsätzlich haften Sie als Nutzer immer selbst, wenn Sie KI-Output weiterverwenden – gleich in welchem Kontext. Es liegt letztlich immer am Nutzer selbst, Inhalte vor der Weiterverwendung auf Richtigkeit und Vollständigkeit zu prüfen. Daher mein dringender Tipp: Nie ungeprüft KI-Content weiterverwenden.
Transparenz und Kennzeichnung
Viele Absender fragen sich: Muss eine von einer KI verfasste und versendete E-Mail zwingend als solche gekennzeichnet sein?
RA Timo Schutt: Nein. Die KI-Verordnung schreibt eine Kennzeichnungspflicht lediglich bei sogenannten Deepfakes vor. Darunter versteht man landläufig KI-generierte oder manipulierte Inhalte, die Personen, Gegenstände oder Ereignisse täuschend echt darstellen, nicht aber rein KI-generierte oder KI-optimierte Texte.
Datenschutz und die DSGVO
Worauf müssen Unternehmen besonders achten, wenn Kundendaten in Prompts für Vertriebs-E-Mails fließen?
RA Timo Schutt: Das ist ein wunder Punkt. De facto können Sie bei Nutzung personenbezogener Daten als Input-Daten bestimmte DSGVO-Pflichten nicht mehr erfüllen. Das betrifft beispielsweise die Löschpflicht – da Sie die Daten oft nicht mehr aus der KI „herausbekommen“ – oder die Auskunftspflicht. Wenn Sie personenbezogene Daten nutzen wollen, müssen Sie vorab sicherstellen, dass die KI diese nicht für das Training nutzt. Im besten Falle betreiben Sie die KI ausschließlich lokal in Ihrer eigenen Infrastruktur (On-Premise).
Wichtiger Hinweis: Dieser Beitrag dient der allgemeinen Information und Einordnung. Er stellt keine Rechtsberatung dar und kann eine individuelle Prüfung durch einen spezialisierten Juristen nicht ersetzen.
Urheberrechtliche Einordnung
Wem gehören eigentlich die Texte, die eine KI für den Vertrieb erstellt? Kann das Unternehmen hier Urheberrechte geltend machen?
RA Timo Schutt: Inhaber von geistigen Schutzrechten kann stets nur eine natürliche Person sein. Daher ist nach aktueller Rechtslage KI-generierter Content nicht urheberrechtlich geschützt. Aber Vorsicht: Wenn die KI urheberrechtlich relevante Anteile Dritter ausgibt und Sie diese verwerten, haften Sie als Nutzer für diese Nutzung – oft sogar verschuldensunabhängig.
Aufsichtspflicht der Geschäftsführung
Reicht ein „Human-in-the-loop“, also die menschliche Endkontrolle, aus, um sich als Geschäftsführer vollständig aus der Haftung zu nehmen?
RA Timo Schutt: Eine menschliche Endkontrolle sollte aus Compliance-Gründen in allen Prozessen vorgesehen sein, da sie haftungsminimierend wirkt. Eine vollständige Exkulpation kann dadurch aber nicht immer erreicht werden, da Verletzungen geistiger Schutzrechte oft verschuldensunabhängig greifen.
Beweislast und neue Regeln für 2026
Wie schwierig ist es im Streitfall nachzuweisen, ob ein Fehler durch die KI oder eine falsche Bedienung entstand?
RA Timo Schutt: Dieser Nachweis kann derzeit nahezu nicht geführt werden. Aber: Das voraussichtlich noch im Jahre 2026 in Kraft tretende neue Produkthaftungsrecht wird dies erleichtern. Dort ist eine Beweislastumkehr für KI-Fehler vorgesehen, was die Inanspruchnahme von Herstellern und Anbietern für Nutzer deutlich verbessert.
Rechtssichere Verträge per KI
Können KI-Agenten bereits heute rechtssichere Verträge per Mail abschließen?
RA Timo Schutt: Das kommt auf die konkreten Formvorschriften an. Können Verträge jedoch in Textform oder formlos geschlossen werden, ist es grundsätzlich möglich, dass ein auf dem bewussten Willen eines Menschen agierender KI-Agent für diesen Menschen wirksam einen Vertrag abschließen kann. Die Kausalität zwischen dem menschlichen Willen und der zugehörigen Erklärung ist hier entscheidend.
Der wichtigste erste Schritt
Welchen Rat geben Sie einem Unternehmen, das KI-E-Mails im Vertrieb jetzt rechtssicher einführen möchte?
RA Timo Schutt: Das erfordert einen ganzen Strauß an Maßnahmen. Es beginnt bei der sorgfältigen rechtlichen Prüfung des KI-Modells, geht über die Dokumentation und Risikoanalyse und endet bei korrekten Vorgaben für die Nutzung. Das sollte bestenfalls durch eine rechtlich saubere interne KI-Richtlinie reguliert werden, die ich derzeit für viele meiner Mandanten erstelle.
Mehr zum Thema Haftung und Struktur:
