KI-Tools im Online-Shop: Rechtssicher starten

Ob KI-Chatbots im Kundenservice, automatische Produktbeschreibungen oder intelligente Marketing-Tools: Künstliche Intelligenz ist im E-Commerce angekommen. Für Shop-Betreiber*innen bietet sie große Chancen, Prozesse zu automatisieren, Ressourcen zu sparen und das Einkaufserlebnis zu verbessern.

Mit ihrem Einsatz gehen jedoch datenschutzrechtliche Anforderungen einher. Wer sie erst nach der Einführung berücksichtigt, riskiert vermeidbaren Aufwand und rechtliche Risiken.

KI wird im Online-Handel immer präsenter

Viele Unternehmen nutzen bereits KI-gestützte Anwendungen, ohne diese ausdrücklich als KI wahrzunehmen. Denn nicht jede Software weist auf den ersten Blick auf künstliche Intelligenz hin.

Typische Einsatzbereiche sind:

• KI-Chatbots und automatisierte Support-Prozesse
• Produktbeschreibungen, Übersetzungen und Content-Erstellung
• Marketingoptimierung und personalisierte Empfehlungen
• Analysen des Kaufverhaltens
• KI-Assistenten für interne Arbeitsabläufe

Die Vorteile liegen auf der Hand: Prozesse werden effizienter, Teams werden entlastet und die Kundschaft erhält häufig schneller die benötigten Informationen. Doch wie gut ist dein Unternehmen datenschutzrechtlich auf den Einsatz von KI vorbereitet?

Eine erste Orientierung bietet unser Rechtstipp der Woche „KI und Datenschutz: Wie gut ist dein Unternehmen aufgestellt?“

Warum Datenschutz beim KI-Einsatz eine zentrale Rolle spielt

KI-Systeme verarbeiten häufig personenbezogene Daten. Dazu können etwa gehören:

• Namen und E-Mail-Adressen
• Bestell- und Kundendaten
• Support-Anfragen und Chatverläufe
• Kommunikationsinhalte
• Daten von Beschäftigten

Sobald personenbezogene Daten verarbeitet werden, gelten die Anforderungen der Datenschutz-Grundverordnung (DSGVO).

Deshalb sollte bereits vor der Einführung eines KI-Tools geprüft werden, welche datenschutzrechtlichen Anforderungen erfüllt werden müssen und ob zusätzliche Vorgaben aus der europäischen KI-Verordnung (AI Act) relevant sind.

Je stärker ein KI-System in bestehende Geschäftsprozesse eingebunden wird, desto wichtiger wird eine frühzeitige rechtliche Bewertung.

Mehr Informationen zu den datenschutzrechtlichen Herausforderungen bei der Nutzung von KI enthält auch der Tipp der Woche „7 datenschutzrechtliche Herausforderungen beim Einsatz von Künstlicher Intelligenz“.

Diese 5 Fragen solltest du vor dem Einsatz eines KI-Tools beantworten

1. Welche Daten werden verarbeitet?

Der erste Schritt besteht darin, die Datenflüsse zu verstehen.

Prüfe insbesondere:

• Welche personenbezogenen Daten eingegeben werden
• Welche Informationen das Tool im Hintergrund verarbeitet
• Ob besondere Kategorien personenbezogener Daten betroffen sind
• Wie lange Daten gespeichert werden

Achte darauf, dass auch Support-Tickets, Chatverläufe oder Freitextfelder personenbezogene Informationen enthalten können.

2. Verwendet der Anbieter die Daten für eigene Zwecke?

Prüfe Vertragsunterlagen und Datenschutzinformationen darauf, ob eingegebene Daten ausschließlich für die Dienstleistung oder zusätzlich für Trainings- und Verbesserungszwecke verwendet werden. Gerade bei generativen KI-Systemen beeinflusst dies die datenschutzrechtliche Bewertung erheblich.

3. Wo werden die Daten verarbeitet?

Kläre den Sitz des anbietenden Unternehmens, Serverstandorte, mögliche Drittlandübermittlungen und die dafür vorgesehenen Schutzmaßnahmen. Gerade bei internationalen Softwarelösungen müssen die Datenflüsse nachvollziehbar sein.

4. Welche Dokumente und Verträge werden benötigt?

Je nach Anwendungsfall können ein Auftragsverarbeitungsvertrag, Anpassungen der Datenschutzerklärung, interne Richtlinien, das Verzeichnis von Verarbeitungstätigkeiten, Risikobewertungen und eine Dokumentation des KI-Einsatzes erforderlich sein.

5. Welche Anforderungen ergeben sich aus dem AI Act?

Neben der DSGVO ist der AI Act zu berücksichtigen. Auch ohne Hochrisiko-KI können Transparenz- und Dokumentationspflichten, KI-Kompetenz der Mitarbeitenden und interne Prozesse relevant sein. Datenschutz und KI-Compliance sollten deshalb gemeinsam geprüft werden.

Mehr Informationen zur KI-Kompetenz der Mitarbeitenden findest du in unserem Tipp der Woche „Die Pflicht zur KI-Kompetenz – wer, was, wie, warum?“.

KI-Einsatz rechtssicher prüfen lassen

Viele Risiken entstehen nicht durch die KI selbst, sondern durch eine vorschnelle Einführung ohne rechtliche Prüfung.

Gerade kleine und mittelständische Unternehmen verfügen häufig nicht über die Ressourcen, jede neue Lösung umfassend zu bewerten.

Eine strukturierte KI-Prüfung kann dabei helfen,

• den geplanten Anwendungsfall zu bewerten,
• erforderliche Verträge zu identifizieren,
• Informationspflichten umzusetzen und
• Anforderungen aus DSGVO und AI Act frühzeitig zu berücksichtigen.

So lassen sich rechtliche Risiken bereits vor dem Produktivstart erkennen und reduzieren.

Unsere Expert*innen unterstützen dich dabei, KI-Tools datenschutzkonform und rechtssicher einzusetzen.

Unser Tipp

Ein KI-Tool sollte nicht nur technisch überzeugen, sondern auch datenschutzkonform und regelkonform eingesetzt werden können.

Verschaffe dir vorab Klarheit über Datenverarbeitung, Verantwortlichkeiten, Verträge und mögliche Anforderungen aus dem AI Act. Wer Datenschutz und KI-Compliance frühzeitig berücksichtigt, spart oft Zeit, Kosten und spätere Anpassungen.

Deshalb gilt: Erst prüfen, dann automatisieren.