Sobald Beschäftigte Kundendaten, Bewerbungen oder andere Unterlagen mit Personenbezug in ein KI-Werkzeug geben, verarbeitet der Anbieter diese Daten in Ihrem Auftrag. Dafür verlangt die DSGVO einen Vertrag zur Auftragsverarbeitung, oft AV-Vertrag genannt.
Aushandeln müssen Sie diesen Vertrag selten. Die meisten Anbieter stellen ihn für Geschäftskunden bereit, oft als Teil der Geschäftsbedingungen. Ihre Aufgabe ist, ihn zu finden, abzuschließen, auf wenige KI-typische Punkte zu prüfen und abzulegen.
Wann Sie einen Vertrag brauchen
Verarbeitet ein Dienstleister personenbezogene Daten in Ihrem Auftrag, ist das eine Auftragsverarbeitung. Das gilt auch für KI-Dienste, sobald Beschäftigte darin Kundendaten, Bewerbungen oder interne Unterlagen mit Personenbezug bearbeiten. Die Datenschutzkonferenz beschreibt den externen Anbieter einer KI-Anwendung, etwa als Cloud-Lösung, als verlängerten Arm des Verantwortlichen. Dann besteht häufig eine Auftragsverarbeitung. Mit dem Anbieter ist in diesem Fall eine Vereinbarung nach Artikel 28 DSGVO zu schließen.
- Wenn Ihr Team nur mit Inhalten ohne Personenbezug arbeitet, etwa Fachfragen, Website-Texte oder Gliederungen, ist keine Auftragsverarbeitung im Spiel. Nutzen Sie trotzdem ein geschäftliches Konto.
- Wenn personenbezogene Daten hineingehen, auch nur gelegentlich, brauchen Sie den Vertrag, bevor das passiert.
- Wenn Sie eine KI-Anwendung ausschließlich für eigene Zwecke auf eigenen Servern betreiben, sind Sie nach Einschätzung der Datenschutzkonferenz in der Regel allein verantwortlich. Für Dienstleister, die Server oder Wartung stellen, kann trotzdem ein Vertrag nötig sein.
- Wenn der Anbieter keinen Vertrag anbietet, gehören keine personenbezogenen Daten in dieses Werkzeug.
Was im Vertrag stehen muss
Sie dürfen nur mit Anbietern arbeiten, die hinreichende Garantien für geeignete technische und organisatorische Schutzmaßnahmen bieten (Artikel 28 Absatz 1). Prüfberichte und Zertifikate, die viele Anbieter in ihrem Trust-Center veröffentlichen, helfen bei dieser Einschätzung. Artikel 28 Absatz 3 DSGVO legt dann fest, was der Vertrag regeln muss:
- Gegenstand, Dauer, Art und Zweck der Verarbeitung
- Art der Daten und Kreis der betroffenen Personen
- Verarbeitung nur nach Ihrer dokumentierten Weisung
- Vertraulichkeit der beteiligten Personen
- technische und organisatorische Schutzmaßnahmen
- Regeln für Unterauftragnehmer
- Unterstützung bei Anfragen Betroffener, Datenpannen und Folgenabschätzungen
- Löschung oder Rückgabe der Daten am Ende
- Nachweise und Kontrollen durch Sie
Der Vertrag ist schriftlich abzufassen, ein elektronisches Format ist ausdrücklich erlaubt (Artikel 28 Absatz 9). Viele Anbieter bieten den Abschluss deshalb online an. OpenAI etwa schließt den Zusatz zur Datenverarbeitung für ChatGPT Business, ChatGPT Enterprise und die API über ein Formular ab. Microsoft verweist für Copilot auf seine bestehenden Verpflichtungen gegenüber kommerziellen Microsoft-365-Kunden, beschrieben in den Produktbedingungen und im Nachtrag zum Datenschutz.
Worauf Sie bei KI zusätzlich achten
- Training: Der Vertrag sollte ausschließen, dass Ihre Eingaben zum Training der Modelle dienen. Steht das nur in einer Einstellung, prüfen Sie, wer sie ändern kann. Lässt sich das Training nicht ausschließen und sind personenbezogene Daten betroffen, braucht es nach Einschätzung der Datenschutzkonferenz für diesen Zweck eine eigene Rechtsgrundlage.
- Speicherort: Verarbeitung in der EU oder eine geprüfte Grundlage für die Übermittlung in andere Länder.
- Aufbewahrung: Wie lange werden Eingaben und Ergebnisse gespeichert?
- Unterauftragnehmer: Viele KI-Dienste nutzen Rechenzentren oder Modelle anderer Unternehmen. Der Anbieter darf weitere Auftragsverarbeiter nur mit Ihrer vorherigen Genehmigung einsetzen. Bei einer allgemeinen Genehmigung muss er Sie über jede geplante Änderung informieren, damit Sie widersprechen können (Artikel 28 Absatz 2). Seinen Unterauftragnehmern muss er dieselben Datenschutzpflichten auferlegen.
Zum Speicherort: Eine Übermittlung in ein Land außerhalb der EU ist möglich, wenn die EU-Kommission dort ein angemessenes Schutzniveau festgestellt hat oder geeignete Garantien bestehen, etwa Standarddatenschutzklauseln (Artikel 45 und 46 DSGVO). Für die USA hat die EU-Kommission am 10.07.2023 einen Angemessenheitsbeschluss zum EU-U.S. Data Privacy Framework angenommen. Er erfasst nur Unternehmen, die sich beim US-Handelsministerium zertifiziert haben. Ob ein Anbieter dazugehört, lässt sich in der öffentlichen Liste unter dataprivacyframework.gov prüfen.
Prüfliste für den Anbieter
Diese Fragen können Sie dem Anbieter stellen oder in seinen Unterlagen nachsehen. Die meisten Antworten finden sich in Vertrag, Datenschutzseite oder Trust-Center.
- Gibt es einen Vertrag zur Auftragsverarbeitung für den Tarif, den wir nutzen wollen?
- Ist das Training mit unseren Eingaben ausgeschlossen, im Vertrag oder per Voreinstellung?
- In welchen Ländern werden die Daten verarbeitet und auf welcher Grundlage bei Ländern außerhalb der EU?
- Wo steht die aktuelle Liste der Unterauftragnehmer und wie informiert der Anbieter über Änderungen?
- Wie lange werden Eingaben, Ergebnisse und hochgeladene Dateien gespeichert und können wir das einstellen?
- Wer beim Anbieter kann unter welchen Umständen auf Inhalte zugreifen?
- Welche Informationen zur Funktionsweise stellt der Anbieter bereit, falls wir eine Datenschutz-Folgenabschätzung brauchen?
Zur letzten Frage: Wer ein fremdes KI-System einsetzt, ist für eine Risikobewertung oder Folgenabschätzung auf die Angaben des Anbieters angewiesen. Die Datenschutzkonferenz rät deshalb, schon bei der Auswahl darauf zu achten.
Beispiel: Eine Hausverwaltung
Eine Hausverwaltung mit 20 Mitarbeitenden will einen KI-Assistenten für alle einführen. Mieteranfragen sollen damit beantwortet werden, also gehen personenbezogene Daten hinein.
Drei Beschäftigte nutzen bereits private Konten, einen Vertrag gibt es nicht. Die Geschäftsführung wählt deshalb einen Geschäftskundentarif, schließt den Vertrag zur Auftragsverarbeitung über das Formular des Anbieters ab und geht die Prüfliste durch. Die privaten Konten werden für dienstliche Zwecke nicht mehr genutzt. Der Assistent wird im Verzeichnis der Verarbeitungstätigkeiten als Empfänger eingetragen, falls zutreffend mit Angaben zu Übermittlungen außerhalb der EU. Die Ansprechperson legt eine Notiz nach folgender Gliederung ab:
- Werkzeug und Tarif, Datum des Vertragsabschlusses, Ablageort des Vertrags
- wofür das Werkzeug genutzt wird und welche Daten hineindürfen
- Ergebnis der Prüfliste, Punkt für jede Frage mit Fundstelle
- Speicherdauer und wer intern Gespräche einsehen kann
- Datum der nächsten Prüfung, etwa bei Tarifwechsel oder geänderter Liste der Unterauftragnehmer
Damit kann sie bei einer Nachfrage von Kunden, Datenschutzbeauftragten oder Aufsichtsbehörde zeigen, was geprüft wurde.
Nächste Schritte
- Listen Sie die KI-Werkzeuge auf, in die personenbezogene Daten gehen oder gehen könnten.
- Suchen Sie für jedes Werkzeug den Vertrag zur Auftragsverarbeitung heraus oder schließen Sie ihn ab.
- Gehen Sie die Prüfliste durch und legen Sie die Notiz nach der Gliederung oben ab.
- Wenn Ihr Beruf einer Verschwiegenheitspflicht unterliegt, prüfen Sie zusätzlich die Regeln Ihres Berufsrechts.
Welche Daten überhaupt in eine Eingabe gehören, beschreibt der Artikel KI und DSGVO. Für Steuerkanzleien gibt es einen eigenen Artikel zu Mandantendaten und KI.
Arbeitshilfe als PDF: Prüfliste Auftragsverarbeitung bei KI
Die Vorlagen und Checklisten aus diesem Artikel zum Ausdrucken und Ausfüllen. Sie bekommen das PDF, wenn Sie sich zum lindenbrook-Newsletter mit neuen Artikeln und Arbeitshilfen anmelden.
Häufige Fragen
Gibt es den Vertrag auch für kostenlose Konten?
In der Regel nicht. Verträge zur Auftragsverarbeitung bieten die Anbieter meist nur für Geschäftskunden an.
Reicht der Vertrag für Berufsgeheimnisse?
Nicht immer. Wer einer Verschwiegenheit unterliegt, muss zusätzlich die Regeln seines Berufsrechts beachten, in Steuerkanzleien etwa § 62a StBerG.
Reicht ein Sitz des Anbieters in der EU?
Nicht unbedingt. Es kommt darauf an, wo die Daten verarbeitet werden und ob Unterauftragnehmer außerhalb der EU beteiligt sind. Fragen Sie danach und halten Sie die Antwort fest.
Quellen
- DSGVO, Artikel 28, 30, 45 und 46, EUR-Lex
- Orientierungshilfe Künstliche Intelligenz und Datenschutz, Datenschutzkonferenz (DSK), 06.05.2024
- BfDI: Angemessenheitsbeschluss zum EU-U.S. Data Privacy Framework in Kraft getreten
- OpenAI: Datenschutz für Unternehmen
- Microsoft: Daten, Datenschutz und Sicherheit für Microsoft 365 Copilot
Stand: . Dieser Artikel ersetzt keine Rechtsberatung.
