Worum es geht
Sobald Beschäftigte Kundendaten, Bewerbungen oder andere Unterlagen mit Personenbezug in ein KI-Werkzeug geben, verarbeitet der Anbieter diese Daten in Ihrem Auftrag. Dafür verlangt die DSGVO einen Vertrag zur Auftragsverarbeitung, oft AV-Vertrag genannt.
Die Kernaussage dieses Artikels: Bei KI-Diensten müssen Sie diesen Vertrag selten aushandeln. Die meisten Anbieter stellen ihn für Geschäftskunden bereit, oft schon als Teil der Geschäftsbedingungen. Ihre Aufgabe ist, ihn zu finden, abzuschließen, gegen wenige KI-typische Punkte zu prüfen und abzulegen.
Sie finden unten eine Entscheidungshilfe, ob Sie einen Vertrag brauchen, eine Prüfliste für den Vertrag und eine Vorlage für die Notiz, mit der Sie den Abschluss dokumentieren.
Wann Sie einen Vertrag brauchen
Verarbeitet ein Dienstleister personenbezogene Daten in Ihrem Auftrag, ist das eine Auftragsverarbeitung. Das gilt auch für KI-Dienste, sobald Beschäftigte darin Kundendaten, Bewerbungen oder interne Unterlagen mit Personenbezug bearbeiten. Die Datenschutzkonferenz beschreibt den externen Anbieter einer KI-Anwendung, etwa als Cloud-Lösung, als verlängerten Arm des Verantwortlichen. Dann besteht häufig eine Auftragsverarbeitung. Mit dem Anbieter ist in diesem Fall eine Vereinbarung nach Artikel 28 DSGVO zu schließen.
- Wenn Ihr Team nur mit Inhalten ohne Personenbezug arbeitet, etwa Fachfragen, Website-Texte oder Gliederungen, ist keine Auftragsverarbeitung im Spiel. Ein geschäftliches Konto ist trotzdem sinnvoll.
- Wenn personenbezogene Daten hineingehen, auch nur gelegentlich, brauchen Sie den Vertrag, bevor das passiert.
- Wenn Sie eine KI-Anwendung ausschließlich für eigene Zwecke auf eigenen Servern betreiben, sind Sie nach Einschätzung der Datenschutzkonferenz in der Regel allein verantwortlich. Für Dienstleister, die Server oder Wartung stellen, kann trotzdem ein Vertrag nötig sein.
- Wenn der Anbieter keinen Vertrag anbietet, gehören keine personenbezogenen Daten in dieses Werkzeug.
Was im Vertrag stehen muss
Vorab gilt: Sie dürfen nur mit Anbietern arbeiten, die hinreichende Garantien für geeignete technische und organisatorische Schutzmaßnahmen bieten (Artikel 28 Absatz 1). Prüfberichte und Zertifikate, die viele Anbieter in ihrem Trust-Center veröffentlichen, helfen bei dieser Einschätzung. Artikel 28 Absatz 3 DSGVO legt dann fest, was der Vertrag regeln muss:
- Gegenstand, Dauer, Art und Zweck der Verarbeitung
- Art der Daten und Kreis der betroffenen Personen
- Verarbeitung nur nach Ihrer dokumentierten Weisung
- Vertraulichkeit der beteiligten Personen
- technische und organisatorische Schutzmaßnahmen
- Regeln für Unterauftragnehmer
- Unterstützung bei Anfragen Betroffener, Datenpannen und Folgenabschätzungen
- Löschung oder Rückgabe der Daten am Ende
- Nachweise und Kontrollen durch Sie
Der Vertrag ist schriftlich abzufassen, ein elektronisches Format ist ausdrücklich erlaubt (Artikel 28 Absatz 9). Viele Anbieter bieten den Abschluss deshalb online an. OpenAI etwa schließt den Zusatz zur Datenverarbeitung für ChatGPT Business, ChatGPT Enterprise und die API über ein Formular ab. Microsoft verweist für Copilot auf seine bestehenden Verpflichtungen gegenüber kommerziellen Microsoft-365-Kunden, beschrieben in den Produktbedingungen und im Nachtrag zum Datenschutz.
Worauf Sie bei KI zusätzlich achten
- Training: Der Vertrag sollte ausschließen, dass Ihre Eingaben zum Training der Modelle dienen. Steht das nur in einer Einstellung, prüfen Sie, wer sie ändern kann. Lässt sich das Training nicht ausschließen und sind personenbezogene Daten betroffen, braucht es nach Einschätzung der Datenschutzkonferenz für diesen Zweck eine eigene Rechtsgrundlage.
- Speicherort: Verarbeitung in der EU oder eine geprüfte Grundlage für die Übermittlung in andere Länder.
- Aufbewahrung: Wie lange werden Eingaben und Ergebnisse gespeichert?
- Unterauftragnehmer: Viele KI-Dienste nutzen Rechenzentren oder Modelle anderer Unternehmen. Der Anbieter darf weitere Auftragsverarbeiter nur mit Ihrer vorherigen Genehmigung einsetzen. Bei einer allgemeinen Genehmigung muss er Sie über jede geplante Änderung informieren, damit Sie widersprechen können (Artikel 28 Absatz 2). Seinen Unterauftragnehmern muss er dieselben Datenschutzpflichten auferlegen.
Zum Speicherort: Eine Übermittlung in ein Land außerhalb der EU ist möglich, wenn die EU-Kommission dort ein angemessenes Schutzniveau festgestellt hat oder geeignete Garantien bestehen, etwa Standarddatenschutzklauseln (Artikel 45 und 46 DSGVO). Für die USA hat die EU-Kommission am 10.07.2023 einen Angemessenheitsbeschluss zum EU-U.S. Data Privacy Framework angenommen. Er erfasst nur Unternehmen, die sich beim US-Handelsministerium zertifiziert haben. Ob ein Anbieter dazugehört, lässt sich in der öffentlichen Liste unter dataprivacyframework.gov prüfen.
Prüfliste für den Anbieter
Diese Fragen können Sie dem Anbieter stellen oder in seinen Unterlagen nachsehen. Die meisten Antworten finden sich in Vertrag, Datenschutzseite oder Trust-Center.
- Gibt es einen Vertrag zur Auftragsverarbeitung für den Tarif, den wir nutzen wollen?
- Ist das Training mit unseren Eingaben ausgeschlossen, im Vertrag oder per Voreinstellung?
- In welchen Ländern werden die Daten verarbeitet und auf welcher Grundlage bei Ländern außerhalb der EU?
- Wo steht die aktuelle Liste der Unterauftragnehmer und wie informiert der Anbieter über Änderungen?
- Wie lange werden Eingaben, Ergebnisse und hochgeladene Dateien gespeichert und können wir das einstellen?
- Wer beim Anbieter kann unter welchen Umständen auf Inhalte zugreifen?
- Welche Informationen zur Funktionsweise stellt der Anbieter bereit, falls wir eine Datenschutz-Folgenabschätzung brauchen?
Die letzte Frage hat einen praktischen Grund. Wer ein fremdes KI-System einsetzt, ist für eine Risikobewertung oder Folgenabschätzung auf die Angaben des Anbieters angewiesen. Die Datenschutzkonferenz rät deshalb, schon bei der Auswahl darauf zu achten.
Ein Beispiel: vom Konto bis zur Ablage
Eine Hausverwaltung mit 20 Mitarbeitenden will einen KI-Assistenten für alle einführen. Mieteranfragen sollen damit beantwortet werden, also gehen personenbezogene Daten hinein.
Vorher: Drei Beschäftigte nutzen bereits private Konten. Niemand weiß, ob Eingaben zum Training verwendet werden. Einen Vertrag gibt es nicht.
Nachher: Die Geschäftsführung wählt einen Geschäftskundentarif, schließt den Vertrag zur Auftragsverarbeitung über das Formular des Anbieters ab und geht die Prüfliste durch. Die privaten Konten werden für dienstliche Zwecke nicht mehr genutzt. Der Assistent wird im Verzeichnis der Verarbeitungstätigkeiten als Empfänger eingetragen, falls zutreffend mit Angaben zu Übermittlungen außerhalb der EU. Die Ansprechperson legt eine Notiz nach folgender Gliederung ab:
- Werkzeug und Tarif, Datum des Vertragsabschlusses, Ablageort des Vertrags
- wofür das Werkzeug genutzt wird und welche Daten hineindürfen
- Ergebnis der Prüfliste, Punkt für jede Frage mit Fundstelle
- Speicherdauer und wer intern Gespräche einsehen kann
- Datum der nächsten Prüfung, etwa bei Tarifwechsel oder geänderter Liste der Unterauftragnehmer
Damit kann sie bei einer Nachfrage von Kunden, Datenschutzbeauftragten oder Aufsichtsbehörde zeigen, was geprüft wurde.
Nächste Schritte
- Listen Sie die KI-Werkzeuge auf, in die personenbezogene Daten gehen oder gehen könnten.
- Suchen Sie für jedes Werkzeug den Vertrag zur Auftragsverarbeitung heraus oder schließen Sie ihn ab.
- Gehen Sie die Prüfliste durch und legen Sie die Notiz nach der Gliederung oben ab.
- Wenn Ihr Beruf einer Verschwiegenheitspflicht unterliegt, prüfen Sie zusätzlich die Regeln Ihres Berufsrechts.
Welche Daten überhaupt in eine Eingabe gehören, beschreibt der Artikel KI und DSGVO. Für Steuerkanzleien gibt es einen eigenen Artikel zu Mandantendaten und KI. Für welches Ihrer KI-Werkzeuge liegt der Vertrag heute schon in Ihrer Ablage?
Häufige Fragen
Gibt es den Vertrag auch für kostenlose Konten?
In der Regel nicht. Verträge zur Auftragsverarbeitung bieten die Anbieter meist nur für Geschäftskunden an.
Reicht der Vertrag für Berufsgeheimnisse?
Nicht immer. Wer einer Verschwiegenheit unterliegt, muss zusätzlich die Regeln seines Berufsrechts beachten, in Steuerkanzleien etwa § 62a StBerG.
Muss der Vertrag unterschrieben auf Papier vorliegen?
Nein. Die DSGVO verlangt die Schriftform und lässt ausdrücklich ein elektronisches Format zu. Viele Anbieter bieten den Abschluss online an. Legen Sie das Dokument trotzdem so ab, dass Sie es wiederfinden.
Was ist, wenn der Anbieter einen neuen Unterauftragnehmer hinzunimmt?
Bei einer allgemeinen Genehmigung muss er Sie vorher informieren, damit Sie widersprechen können. Prüfen Sie, wie der Anbieter informiert. Lesen Sie solche Mitteilungen.
Reicht ein Sitz des Anbieters in der EU?
Nicht unbedingt. Entscheidend ist, wo die Daten verarbeitet werden und ob Unterauftragnehmer außerhalb der EU beteiligt sind. Fragen Sie danach und halten Sie die Antwort fest.
Quellen
- DSGVO, Artikel 28, 30, 45 und 46, EUR-Lex
- Orientierungshilfe Künstliche Intelligenz und Datenschutz, Datenschutzkonferenz (DSK), 06.05.2024
- BfDI: Angemessenheitsbeschluss zum EU-U.S. Data Privacy Framework in Kraft getreten
- OpenAI: Datenschutz für Unternehmen
- Microsoft: Daten, Datenschutz und Sicherheit für Microsoft 365 Copilot
Stand: . Dieser Artikel ersetzt keine Rechtsberatung.
