Wenn die Kundenliste im Gratis-Chatbot landet

Freitagnachmittag, der Newsletter soll noch raus. Ein Mitarbeiter kopiert die komplette Kundenliste – Namen, Adressen, Umsätze – in ein kostenloses KI-Tool und lässt sich einen Serienbrief entwerfen. Gut gemeint, in zwei Minuten erledigt. Und datenschutzrechtlich ein Vorgang, von dem Sie als Geschäftsführer vermutlich nichts wissen. Genau hier beginnt das Thema DSGVO-konforme KI – nicht im Serverraum, sondern im ganz normalen Arbeitsalltag.

Das ist kein Einzelfall. Laut einer Bitkom-Erhebung (2025) gehen vier von zehn Unternehmen davon aus, dass ihre Beschäftigten private KI-Tools wie ChatGPT, Claude oder Gemini im Job verwenden – und nur 23 % haben überhaupt Regeln dafür aufgestellt. Diese „Schatten-KI“ ist die eigentliche Datenschutz-Baustelle im Mittelstand, nicht das große KI-Projekt, über das im Managementkreis diskutiert wird.

Die gute Nachricht: DSGVO-konforme KI ist kein juristisches Spezialwissen, sondern eine Handvoll konkreter Fragen, die Sie jedem Anbieter stellen können – bevor Sie ein Tool freigeben. Genau die haben wir unten zu einer Checkliste gebündelt, entlang der Orientierungshilfe „KI und Datenschutz“ der Datenschutzkonferenz (DSK, 2024) – der abgestimmten Leitlinie aller deutschen Datenschutzaufsichtsbehörden.

Warum „verboten“ die falsche Frage ist

Viele Betriebe zögern, weil sie glauben, die DSGVO stehe KI im Weg. Das Gegenteil stimmt: Die Verordnung verbietet KI nicht – sie stellt Bedingungen. Und wer die Bedingungen kennt, kann souverän entscheiden, statt aus Unsicherheit gar nichts zu tun oder heimlich das Falsche zu erlauben.

Wichtig ist nur, wer die Verantwortung trägt. Datenschutzrechtlich verantwortlich ist, wer über Zwecke und Mittel der Verarbeitung entscheidet – also Sie als einsetzendes Unternehmen, nicht der Tool-Anbieter. Ein „DSGVO-konform“-Siegel auf einer Anbieter-Website nimmt Ihnen diese Verantwortung nicht ab. Deshalb lohnt sich die Prüfung vorab.

Die Checkliste: 8 Fragen an jedes KI-Tool, bevor Sie es einsetzen

Gehen Sie jedes Tool, das mit personenbezogenen Daten in Berührung kommt, einmal durch diese acht Fragen. Zu jeder steht, worauf Sie konkret achten sollten.

1. Wo werden die Daten verarbeitet – geschlossenes System in der EU oder offenes System mit Transfer in Drittländer?
   Worauf achten: Geschlossene Systeme, bei denen Ihre Eingaben Ihren Kontrollbereich nicht verlassen, sind laut DSK datenschutzrechtlich vorzugswürdig. Bei offenen (oft US-)Diensten verlassen die Daten den geschützten Bereich; für Übermittlungen in Drittländer gelten die Zusatzregeln aus Kapitel V DSGVO.

2. Gibt es einen Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO?
   Worauf achten: Nutzen Sie ein Cloud-KI-Tool für eigene Zwecke, ist der Anbieter regelmäßig Ihr Auftragsverarbeiter – dann muss ein AVV nach Art. 28 Abs. 3 DSGVO vorliegen und unterschreibbar sein. Kostenlose Consumer-Konten bieten oft keinen. Verarbeitet der Anbieter Ihre Daten dagegen für eigene Zwecke (etwa fürs Training, siehe Frage 3), ist er kein bloßer Auftragsverarbeiter – dann genügt ein AVV allein nicht.

3. Werden Ihre Ein- und Ausgaben zum Training des Modells genutzt – und können Sie das abschalten?
   Worauf achten: Prüfen Sie, ob ein Ausschluss möglich ist. Anwendungen, die Ein- und Ausgaben nicht fürs Training verwenden, sind vorzuziehen. Ist ein Ausschluss nicht möglich und sind personenbezogene Daten betroffen, brauchen Sie dafür eine eigene Rechtsgrundlage.

4. Ist der Zweck vorab festgelegt – und geben Sie nur die wirklich nötigen Daten ein?
   Worauf achten: Die Zweckfestlegung ist elementar; ohne sie lässt sich gar nicht beurteilen, welche Daten erforderlich sind. Und: Namen und Adressen zu entfernen genügt oft nicht, weil sich ein Personenbezug aus dem Zusammenhang ergeben kann.

5. Wie lange wird die Eingabe-Historie gespeichert – und können Nutzer das steuern?
   Worauf achten: Viele Dienste speichern Prompts, um Dialoge fortzusetzen. Es muss transparent sein, wie lange – und Nutzer müssen entscheiden können, ob ihre Historie überhaupt gespeichert wird.

6. Sind die Unterauftragsverarbeiter offengelegt?
   Worauf achten: Ihr Anbieter darf nach Art. 28 DSGVO weitere Dienstleister (z. B. Cloud-Infrastruktur) nur einsetzen, wenn Sie darüber informiert sind und widersprechen können. Verlangen Sie eine aktuelle Liste der Sub-Dienstleister und deren Standorte.

7. Sind die Betroffenenrechte – Auskunft, Berichtigung, Löschung – tatsächlich umsetzbar?
   Worauf achten: Für Berichtigung (Art. 16) und Löschung (Art. 17) müssen technische und organisatorische Verfahren existieren. Bei einer Löschung muss der Personenbezug dauerhaft entfernbar sein – ein reiner Ausgabe-Filter reicht dafür nicht.

8. Ist die Rechtsgrundlage geklärt – und bleibt die letzte Entscheidung beim Menschen?
   Worauf achten: Jeder Verarbeitungsschritt braucht eine Rechtsgrundlage nach Art. 6 DSGVO. Bei voraussichtlich hohem Risiko ist eine Datenschutz-Folgenabschätzung (DSFA) nötig – beim KI-Einsatz laut DSK häufig der Fall. Und: Entscheidungen mit Rechtswirkung dürfen grundsätzlich nicht allein von der KI getroffen werden – nur unter engen Voraussetzungen (Art. 22 DSGVO); halten Sie den Menschen in der letzten Entscheidung.

Diese Checkliste bietet allgemeine Orientierung, keine Rechtsberatung – im Zweifel ziehen Sie Ihren Datenschutzbeauftragten oder rechtlichen Rat hinzu.

Ein Beispiel: die Kundenliste im Gratis-Tool

Zurück zum Serienbrief vom Anfang. Legen wir den Vorgang über die Checkliste, springen drei Fragen sofort auf Rot: Das Gratis-Tool ist ein offenes US-System (Frage 1), es liegt kein AVV vor (Frage 2), und die Eingaben fließen im kostenlosen Tarif üblicherweise ins Training (Frage 3). Drei Treffer – der Vorgang gehört gestoppt, bevor er zur Routine wird.

Der Fix ist unspektakulär: Stellen Sie ein betriebliches Konto in einem geschlossenen, möglichst in der EU gehosteten Dienst bereit, in dem Training und dauerhafte Speicherung ausgeschaltet sind – und weisen Sie an, keine vollständigen Kundendatensätze einzugeben, wo ein anonymisierter Textbaustein genügt. Aus einem verdeckten Risiko wird ein kontrollierter, erlaubter Arbeitsweg. Der Mitarbeiter bleibt schnell – nur eben auf sicherem Boden.

Was DSGVO-konforme KI NICHT bedeutet

Drei ehrliche Klarstellungen, damit Sie weder über- noch untersteuern:

• Es heißt nicht „KI verboten“. Die DSGVO schließt KI nicht aus; sie verlangt eine saubere Grundlage. Viele nützliche Anwendungen – etwa auf Daten ganz ohne Personenbezug – sind unkritisch.
• Deutschland-Hosting allein ist keine Konformität. Der Serverstandort ist eine notwendige, aber keine hinreichende Bedingung. AVV, Zweckbindung, Löschfristen und Rechtsgrundlage müssen trotzdem stimmen.
• Die Verantwortung bleibt bei Ihnen. Kein Anbieter-Label verlagert sie. Das ist keine schlechte Nachricht: Es bedeutet, dass Sie mit den acht Fragen oben tatsächlich die Kontrolle haben.

Ihr nächster Schritt: schreiben Sie die Regel

Der wirksamste Schritt kostet Sie diese Woche eine halbe Stunde – und keinen Cent: Legen Sie schriftlich fest, welche KI-Tools für welche Zwecke erlaubt sind und welche Daten dort nichts zu suchen haben. Genau diese klare interne Weisung empfiehlt die DSK, und genau sie fehlt in mehr als drei von vier Betrieben. Sie schließt die Schatten-KI-Lücke schneller als jedes Tool-Projekt. (Wie Sie generell entscheiden, welche Aufgabe sich überhaupt für KI lohnt, haben wir in unserem ersten Beitrag zu KI im Mittelstand beschrieben – dort war Rechtsunsicherheit die meistgenannte Hürde. Diese Checkliste ist die Antwort darauf.)

Für diesen ersten Schritt brauchen Sie niemanden – die acht Fragen oben reichen. Erfahrungsgemäß hängen die meisten Betriebe an Frage 6 und Frage 8: Sub-Dienstleister und Rechtsgrundlage sind die Punkte, an denen die Anbieterauskunft dünn wird. Genau solche Systeme bauen wir bei Kortexa – in Deutschland gehostet, von Anfang an entlang dieser Checkliste konstruiert, damit Datenschutz eine Eigenschaft des Systems ist und kein nachträglicher Aufwand. Wenn Sie an einem dieser Punkte nicht weiterkommen, werfen wir in einem kurzen, kostenlosen Gespräch einen fachlichen Blick darauf. Kein Verkaufstermin – ein zweites Paar Augen.

— Misho Manolov, Gründer