Worum es geht
Wer mit ChatGPT, Copilot oder einem anderen KI-Werkzeug arbeitet, kopiert schnell einen ganzen Vorgang in die Eingabe: eine Kundenmail, ein Gesprächsprotokoll, eine Bewerbung. Damit landen personenbezogene Daten bei einem Anbieter, ohne dass jemand das bewusst entschieden hat.
Dieser Artikel richtet sich an alle, die im Unternehmen mit KI arbeiten oder Regeln dafür aufstellen. Seine Kernaussage: Die meisten Aufgaben lassen sich ganz ohne personenbezogene Daten lösen. Wer vor dem Absenden kurz prüft und ersetzt, braucht für den Alltag keine Sonderregeln. Für die übrigen Fälle gibt es einen klaren Weg mit freigegebenem Werkzeug, Vertrag und Rechtsgrundlage.
Sie finden unten drei Prüffragen für den Moment vor dem Absenden, ein durchgespieltes Beispiel mit Musterprompt und eine Regel, die Sie für Ihr Team übernehmen können.
Woran Sie Personenbezug erkennen
Personenbezogen ist alles, was sich direkt oder mit vertretbarem Aufwand einer Person zuordnen lässt: Namen, E-Mail-Adressen, Kundennummern, aber auch eine genaue Beschreibung, die nur auf eine Person passt. Besonders geschützt sind etwa Gesundheitsdaten, religiöse Überzeugungen, Gewerkschaftszugehörigkeit oder biometrische Daten (Artikel 9 DSGVO).
Die Datenschutzaufsichtsbehörden von Bund und Ländern weisen darauf hin, dass es regelmäßig nicht reicht, Namen und Anschriften zu entfernen. Der Bezug ergibt sich oft aus dem Zusammenhang. Ihr Beispiel ist die Bitte um ein Arbeitszeugnis für einen Kundenberater in einem bestimmten Autohaus: Ist erkennbar, aus welchem Unternehmen und wann die Anfrage kam, lässt sich die Person bestimmen.
Im Arbeitsalltag verstecken sich Personenbezüge häufig an diesen Stellen:
- Kundennummern, Aktenzeichen, Vertrags- oder Rechnungsnummern
- Funktionen in kleinen Einheiten, etwa „die Leitung unserer Buchhaltung“, wenn es nur eine Person mit dieser Rolle gibt
- Signaturen, Kopfzeilen und zitierte Verläufe in eingefügten E-Mails
- seltene Ereignisse mit Datum und Ort, etwa ein bestimmter Unfall oder eine Kündigung in einer kleinen Abteilung
Auch das Ergebnis zählt. Eine KI kann Angaben über reale Menschen ausgeben, obwohl die Eingabe keine enthielt, etwa wenn die Frage gezielt auf bestimmte Personen zielt. Dann kann für die weitere Verarbeitung ebenfalls eine Rechtsgrundlage nötig sein.
Daten vorher entfernen
Für viele Aufgaben braucht die KI keine echten Personen: Einen Antwortbrief formulieren, einen Text kürzen oder eine Gliederung entwerfen geht auch mit Platzhaltern wie „Kunde A“. Die DSGVO verlangt ohnehin, Daten auf das für den Zweck notwendige Maß zu beschränken (Artikel 5, Datenminimierung).
Wichtig: Für Sie bleiben solche Daten personenbezogen, solange Sie die Zuordnung kennen. Entscheidend ist, dass der KI-Anbieter niemanden erkennen kann. Ersetzen Sie deshalb alles, was auf die Person schließen lässt, Namen ebenso wie Details. Nur wirklich anonyme Daten fallen aus der DSGVO heraus.
Drei Fragen vor dem Absenden helfen, das im Alltag einzuhalten:
- Braucht die Aufgabe echte Personen? Für Ton, Aufbau und Formulierung fast nie. Für das Zusammenführen echter Kundendaten schon.
- Könnte jemand außerhalb des Hauses erkennen, um wen es geht? Lesen Sie den Text einmal mit fremden Augen, einschließlich Signatur und Anhang.
- Ist das Werkzeug für diese Art von Daten freigegeben? Wenn nicht, ersetzen Sie die Angaben oder lassen die Aufgabe ohne KI.
Ein Beispiel: die Antwort auf eine Beschwerde
Eine Sachbearbeiterin in einem Versandhandel mit zwölf Mitarbeitenden soll auf eine verärgerte Kundenmail antworten. Die Ware kam zu spät, die Kundin schreibt, sie brauche sie wegen einer Operation dringend.
Vorher: Sie kopiert die komplette Mail in einen KI-Assistenten, mit Name, Anschrift, Kundennummer, Bestelldatum, dem Hinweis auf die Operation und der Signatur. Damit gehen auch Gesundheitsangaben an den Anbieter, obwohl die Antwort sie nicht braucht.
Nachher: Sie beschreibt den Fall in eigenen Worten und gibt nur ein, was für den Text nötig ist:
„Eine Kundin beschwert sich über eine verspätete Lieferung. Sie braucht die Ware dringend. Wir können innerhalb von zwei Werktagen nachliefern und übernehmen die Versandkosten. Schreibe eine freundliche, klare Antwort mit Entschuldigung und neuem Liefertermin, höchstens 120 Wörter, Anrede mit [Name].“
Den Namen und das konkrete Datum setzt sie danach im eigenen Mailprogramm ein. Der Entwurf ist genauso brauchbar, der Anbieter hat keine Person gesehen. Dieses Muster lässt sich auf viele Aufgaben übertragen: Fall in eigenen Worten schildern, Ziel und Rahmen nennen, Platzhalter in eckigen Klammern verwenden.
Wenn echte Daten nötig sind
Manche Aufgaben gehen nicht ohne echte Daten, etwa das Zusammenfassen einer Kundenakte oder das Auswerten von Rückmeldungen mit Namen. Dann braucht es ein Werkzeug, das dafür freigegeben ist:
- ein geschäftliches Konto statt privater Zugänge
- ein Vertrag zur Auftragsverarbeitung nach Artikel 28 DSGVO
- keine Nutzung Ihrer Eingaben zum Training
- Verarbeitung in der EU oder eine geprüfte Grundlage für die Übermittlung
Dazu kommt eine Rechtsgrundlage für die Verarbeitung selbst, etwa die Erfüllung eines Vertrags oder ein berechtigtes Interesse (Artikel 6 DSGVO). Welche passt, hängt vom Zweck ab. Die Datenschutzaufsichtsbehörden empfehlen außerdem, betriebliche Konten bereitzustellen und sie schon beim Einrichten so einzustellen, dass keine Eingaben zum Training verwendet werden. Wie Sie den Vertrag prüfen, steht im Artikel Auftragsverarbeitung bei KI-Anbietern.
Für einige Fälle gilt mehr:
- Wenn besonders geschützte Daten betroffen sind, etwa Gesundheitsangaben, ist ihre Verarbeitung grundsätzlich verboten und nur in den Ausnahmen des Artikels 9 DSGVO erlaubt. Prüfen Sie das im Einzelfall, bevor solche Daten in ein KI-Werkzeug gehen.
- Wenn ein Ergebnis Rechtswirkung für Menschen hat, muss ein Mensch tatsächlich entscheiden. Eine KI, die Bewerbungen auswertet und selbstständig zu Gesprächen einlädt, verstößt nach Ansicht der Aufsichtsbehörden gegen Artikel 22 DSGVO.
- Wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen hat, ist vorab eine Datenschutz-Folgenabschätzung nötig (Artikel 35 DSGVO). Beim Einsatz von KI ist das nach Einschätzung der Aufsichtsbehörden vielfach der Fall.
Eine Regel zum Übernehmen
Bewährt hat sich ein Ampelprinzip: Grün sind öffentliche und allgemeine Inhalte. Gelb sind interne Unterlagen, die nur in freigegebene Werkzeuge dürfen. Rot sind personenbezogene und vertrauliche Daten, die nur in Anwendungen mit passendem Vertrag gehören. Besonders geschützte Daten wie Gesundheitsangaben gehören nur nach Prüfung im Einzelfall in ein KI-Werkzeug.
Die Aufsichtsbehörden raten, erlaubte und untersagte Einsätze mit konkreten Beispielen zu beschreiben. Diese Fassung können Sie übernehmen und mit eigenen Beispielen füllen:
- Grün, in allen freigegebenen Werkzeugen: Texte von unserer Website, Fachfragen ohne Bezug zu einem Fall, Gliederungen, Formulierungshilfen mit Platzhaltern.
- Gelb, nur in [Name des freigegebenen Werkzeugs] mit Firmenkonto: interne Abläufe, Entwürfe von Konzepten, Protokolle ohne Namen.
- Rot, nur in [Werkzeug mit Vertrag zur Auftragsverarbeitung]: Kundendaten, Personalunterlagen, Angebote mit Kundennamen. Im Zweifel fragen Sie [Ansprechperson].
- Nie ohne vorherige Prüfung: Gesundheitsangaben, Angaben zu Religion oder Gewerkschaft, Daten von Kindern, Passwörter und Zugangsdaten.
Halten Sie die Regel mit Datum fest und erklären Sie sie einmal im Team an einem echten Vorgang. Das wirkt mehr als ein Rundschreiben.
Nächste Schritte
- Listen Sie auf, welche KI-Werkzeuge im Team tatsächlich genutzt werden, auch die privat eingerichteten.
- Halten Sie je Werkzeug fest: geschäftliches Konto, Vertrag zur Auftragsverarbeitung, Training ausgeschlossen, Ort der Verarbeitung.
- Übernehmen Sie die Ampelregel und tragen Sie Ihre Werkzeuge und Ansprechperson ein.
- Spielen Sie das Beispiel mit der Beschwerde im Team mit einem eigenen typischen Vorgang durch.
Wenn Sie das Thema mit dem ganzen Team klären möchten, finden Sie hier unseren Vortrag zu KI und Datenschutz. Und eine Frage zum Mitnehmen: Welcher Vorgang landet bei Ihnen heute am häufigsten unverändert in einer KI-Eingabe?
Häufige Fragen
Darf ich einen Kundenbrief von KI verbessern lassen?
Ja, wenn Sie Namen, Kontaktdaten und alle Angaben, die auf die Person schließen lassen, vorher ersetzen oder ein freigegebenes Werkzeug mit Vertrag zur Auftragsverarbeitung nutzen. Oft reicht es, den Fall in eigenen Worten zu schildern und Platzhalter zu verwenden.
Reicht es, den Nachnamen wegzulassen?
Oft nicht. Wenn sich die Person aus dem Zusammenhang erkennen lässt, bleibt der Text personenbezogen. Achten Sie auch auf Kundennummern, Signaturen und seltene Details.
Was ist mit Fotos und Aufnahmen?
Fotos, Sprachaufnahmen und Videos von Menschen sind personenbezogen. Werden sie ausgewertet, um Personen zu erkennen, gelten sie als besonders geschützte biometrische Daten.
Dürfen wir Bewerbungen von KI vorsortieren lassen?
Nur mit Vorsicht. Entscheidungen mit Rechtswirkung müssen grundsätzlich Menschen treffen, und zwar mit echtem Entscheidungsspielraum. Eine KI, die selbstständig zu Gesprächen einlädt, ist nach Ansicht der Aufsichtsbehörden unzulässig. Zudem kann ein solcher Einsatz nach der KI-Verordnung als Hochrisiko-KI gelten.
Müssen wir Betroffene informieren, wenn ihre Daten in ein KI-Werkzeug gehen?
Ja. Wer personenbezogene Daten in KI-Anwendungen verarbeitet, muss die betroffenen Personen transparent darüber informieren. Prüfen Sie, ob Ihre Datenschutzhinweise den Einsatz abdecken.
Quellen
- DSGVO, Artikel 4, 9 und 28, EUR-Lex
- EuGH, Urteil vom 04.09.2025, C-413/23 P (Pseudonymisierung)
- Orientierungshilfe Künstliche Intelligenz und Datenschutz, Datenschutzkonferenz (DSK), 06.05.2024
Stand: . Dieser Artikel ersetzt keine Rechtsberatung.
