Der datenschutzkonforme Einsatz von künstlicher Intelligenz ist die zentrale rechtliche Voraussetzung für europäische Unternehmen. Die Datenschutz-Grundverordnung (DSGVO) verbietet KI keineswegs, setzt aber klare Leitplanken: Von Rechtsgrundlagen und Zweckbindung über Auftragsverarbeitungsverträge (AVV) bis hin zu sicheren Inferenz-Architekturen ohne Modelltraining. Dieser Leitfaden führt Schritt für Schritt durch die Anforderungen und liefert eine praxiserprobte Checkliste für DSB, IT-Leiter und Geschäftsführung.
Wann ist eine KI-Lösung wirklich DSGVO-konform?
Ein KI-System gilt dann als DSGVO-konform, wenn sämtliche Phasen des Datenzyklus – von der Eingabe (Prompts) über die Verarbeitung (Inferenz) bis zur Ausgabe – die Vorgaben des europäischen Datenschutzrechts erfüllen. Entscheidend ist: Reine Zusicherungen wie 'wir nehmen Datenschutz ernst' reichen in einem Audit nicht aus. Unternehmen müssen die Einhaltung durch Verträge, technische Schutzmaßnahmen und dokumentierte Prozesse nachweisen können (Rechenschaftspflicht nach Art. 5 Abs. 2 DSGVO).
Grundsätze der Verarbeitung nach Artikel 5 DSGVO
Die Prinzipien der Rechtmäßigkeit, Verarbeitung nach Treu und Glauben sowie Transparenz bilden das Fundament. KI-Systeme müssen so konzipiert sein, dass die Betroffenen nachvollziehen können, was mit ihren Daten geschieht. Die Zweckbindung erfordert, dass Daten nur für den spezifischen, vorher festgelegten Zweck genutzt werden. Eine nachträgliche Nutzung für das Training von LLMs bedarf einer gesonderten rechtlichen Prüfung.
Rechtsgrundlagen für den KI-Einsatz (Artikel 6 DSGVO)
Jede Datenverarbeitung durch ein KI-System benötigt eine valide Rechtsgrundlage nach Art. 6 Abs. 1 DSGVO. In der Unternehmenspraxis kommen drei Tatbestände in Betracht:
- Vertragserfüllung (Art. 6 Abs. 1 lit. b): Wenn die KI-Verarbeitung unmittelbar für die Bereitstellung einer Dienstleistung gegenüber dem Kunden erforderlich ist (z. B. automatisierte Buchungsbestätigung oder Support-Tickets).
- Berechtigtes Interesse (Art. 6 Abs. 1 lit. f): Häufige Rechtsgrundlage für interne Produktivitäts-KI (z. B. E-Mail-Assistenten, Recherche, Dokumentenanalyse). Dies erfordert eine dokumentierte Interessenabwägung (LIA) zwischen den Unternehmensinteressen und den Rechten der Betroffenen.
- Einwilligung (Art. 6 Abs. 1 lit. a): Bei freiwilligen Zusatzangeboten oder der Verarbeitung besonders sensibler Daten (Art. 9 DSGVO wie Gesundheitsdaten). Die Einwilligung muss jederzeit widerruflich und transparent dokumentiert sein.
Auftragsverarbeitungsvertrag (AVV) bei KI-Tools und Plattformen
Sobald ein externer KI-Dienstleister personenbezogene Daten im Auftrag verarbeitet, ist der Abschluss eines Auftragsverarbeitungsvertrags (AVV) nach Art. 28 DSGVO vorgeschrieben. Bei Standard-Consumer-Accounts (wie dem kostenlosen ChatGPT) liegt in der Regel kein ausreichender AVV vor – der geschäftliche Einsatz kann damit ein direkter DSGVO-Verstoß sein.
Ein rechtssicherer AVV für KI-Tools sollte folgende Kernpunkte verbindlich regeln:
- Strikte Weisungsgebundenheit: Der Anbieter darf Kundendaten nur nach dokumentierter Weisung verarbeiten und niemals für eigene Zwecke missbrauchen.
- Zero-Data-Retention & Trainingsausschluss: Eine vertragliche Garantie, dass Kunden-Prompts und Dokumente nicht zum Weitertrainieren von Basismodellen genutzt oder dauerhaft gespeichert werden.
- Transparenz über Unterauftragsverarbeiter: Vollständige Auflistung aller Rechenzentren, Cloud-Provider und Dritt-APIs mit Vorab-Informationspflicht bei Änderungen.
- Technische und organisatorische Maßnahmen (TOMs): Verschlüsselung während der Übertragung (TLS 1.3) und im Ruhezustand (AES-256), rollenbasierte Zugriffskontrollen (RBAC) und Audit-Logging.
Infrastruktur & Hosting: Serverstandort Deutschland vs. US-Cloud
Ein wesentliches Konfliktfeld der DSGVO ist der Drittlandtransfer (Art. 44 ff. DSGVO). US-amerikanische Hyperscaler und KI-Anbieter unterliegen dem US CLOUD Act. Zwar existiert mit dem EU-US Data Privacy Framework (DPF) ein Angemessenheitsbeschluss, doch dieser steht unter ständiger rechtlicher Beobachtung und deckt extraterritoriale Durchgriffsrechte der US-Behörden nur unzureichend ab.
Europäische Unternehmen und Berufsgeheimnisträger setzen daher zunehmend auf souveräne KI-Anbieter in Deutschland. Durch Hosting in ISO-27001-zertifizierten deutschen Rechenzentren und Inferenz über europäische oder Open-Weight-Modelle greift der US CLOUD Act nicht, da keinerlei US-Infrastruktur involviert ist.
Human-in-the-Loop & automatisierte Entscheidungen (Art. 22 DSGVO)
Artikel 22 DSGVO verbietet Entscheidungen, die ausschließlich auf einer automatisierten Verarbeitung beruhen und der betroffenen Person gegenüber rechtliche Wirkung entfalten oder sie ähnlich erheblich beeinträchtigen (z. B. automatisierte Kündigungen, Bonitätsprüfungen oder Absagen bei Bewerbungen). Um dieses Verbot einzuhalten, ist das Human-in-the-Loop-Prinzip architektonisch sinnvoll: Die KI darf Ergebnisse nur vorbereiten; die finale Freigabe und Entscheidung muss stets durch einen Menschen erfolgen.
Privacy by Design und Security by Default (Art. 25 & 32)
Datenschutz durch Technikgestaltung verlangt, dass Schutzmaßnahmen direkt in die Architektur der KI-Lösung integriert werden. Ein KI-Betriebssystem übernimmt diese Aufgabe durch strikte Mandantentrennung und Rollenkonzepte. Die Sicherheit der Verarbeitung (Art. 32) fordert Verschlüsselung und Pseudonymisierung. Diese technischen und organisatorischen Maßnahmen (TOMs) sind regelmäßig zu überprüfen.
Datenschutz-Folgenabschätzung (DSFA)
Bei einem hohen Risiko für die Rechte und Freiheiten natürlicher Personen ist eine DSFA zwingend erforderlich. Der Einsatz generativer KI in kritischen Geschäftsprozessen fällt häufig in diese Kategorie. Unternehmen müssen die Risiken strukturiert ermitteln und Maßnahmen zur Eindämmung definieren.
Checkliste: In 6 Schritten zur DSGVO-konformen KI im Unternehmen
| Schritt | Prüfpunkt nach DSGVO | Praktische Umsetzung |
|---|---|---|
| 1. Anwendungsfall & Zweck | Art. 5 Abs. 1 lit. b (Zweckbindung) | Konkreten Business-Use-Case definieren und im Verzeichnis von Verarbeitungstätigkeiten (VVT) dokumentieren. |
| 2. Rechtsgrundlage prüfen | Art. 6 Abs. 1 DSGVO | Berechtigtes Interesse (LIA) dokumentieren oder vertragliche Notwendigkeit festlegen. |
| 3. AVV & No-Training sichern | Art. 28 DSGVO | AVV mit Dienstleister abschließen; Modelltraining mit Kundendaten vertraglich ausschließen. |
| 4. Hosting & Drittlandtransfer | Art. 44 ff. DSGVO, CLOUD Act | EU-Rechenzentren oder deutsche Inferenz-Provider wählen, um US-Zugriffsrisiken zu eliminieren. |
| 5. Human-in-the-Loop etablieren | Art. 22 DSGVO, EU AI Act | Freigabe-Dashboard für Mitarbeiter einrichten; keine vollautomatischen Außenkontakte ohne Freigabe. |
| 6. DSFA & TOMs auditieren | Art. 32 & 35 DSGVO | Risikoanalyse durchführen, rollenbasierte Zugriffsrechte (RBAC) aktivieren und Mitarbeitende schulen. |
Die Quintessenz
DSGVO-konforme KI gelingt im Unternehmen durch das Zusammenspiel aus rechtlicher Absicherung (AVV, VVT, No-Training-Garantie) und sicherer technischer Architektur (deutsches Hosting, RBAC und Human-in-the-Loop).
Häufige Fragen
Wann ist ein KI-Tool für Unternehmen 100 % DSGVO-konform?
Ein KI-Tool ist DSGVO-konform, wenn ein rechtsgültiger Auftragsverarbeitungsvertrag (AVV nach Art. 28) vorliegt, Daten nicht für Modelltraining genutzt werden, Datenströme verschlüsselt sind, eine Rechtsgrundlage (z. B. berechtigtes Interesse) dokumentiert ist und keine unzulässigen Datentransfers in unsichere Drittstaaten stattfinden.
Brauche ich für KI-Tools zwingend einen Auftragsverarbeitungsvertrag (AVV)?
Ja. Sobald Mitarbeitende personenbezogene Daten (Namen, E-Mails, Kundendaten, Notizen) in ein KI-System eingeben, handelt der KI-Anbieter als Auftragsverarbeiter. Ohne AVV nach Art. 28 DSGVO ist der geschäftliche Einsatz in der Regel illegal und bußgeldbewehrt.
Dürfen US-Tools wie ChatGPT oder Claude im Unternehmen DSGVO-konform genutzt werden?
Kostenlose Consumer-Accounts sollten geschäftlich nicht mit personenbezogenen Daten genutzt werden, da kein AVV vorliegt und Prompts oft zum Modelltraining verwendet werden. Enterprise- oder Team-Accounts mit speziellem DPA (Data Processing Addendum) und Zero-Data-Retention sind datenschutzrechtlich besser aufgestellt, unterliegen aber weiterhin den Risiken des US CLOUD Acts. Für höchste Compliance-Anforderungen empfiehlt sich reines EU-Hosting.
Wie dokumentiere ich Human-in-the-Loop-Entscheidungen DSGVO-konform?
Indem im System protokolliert wird, dass die KI lediglich als Assistenzsystem Vorschläge generiert hat und die finale Ausführung erst durch die aktive Freigabe eines menschlichen Nutzers (Timestamp, Nutzer-ID, Freigabeklick) erfolgte.
Was gilt für DSGVO-konforme KI in der Verwaltung und im öffentlichen Sektor?
Behörden und öffentliche Verwaltungen unterliegen besonders strengen Auflagen (BSI C5, Vergaberecht, Landesdatenschutzgesetze). Hier sind Drittstaatentransfers und US-Cloud-Abhängigkeiten in der Regel ausgeschlossen. Erforderlich sind häufig zertifizierte deutsche Rechenzentren und souveräne Software-Architekturen.
Ist eine Datenschutz-Folgenabschätzung (DSFA) für jeden KI-Einsatz Pflicht?
Nein. Eine DSFA nach Art. 35 DSGVO ist nur erforderlich, wenn die Datenverarbeitung voraussichtlich ein hohes Risiko für die Rechte von Betroffenen zur Folge hat – etwa bei Scoring, Mitarbeiterüberwachung, sensiblen Gesundheitsdaten oder vollautomatisierten Prozessen. Für Standard-Assistenzen (z. B. Formulierungshilfen) reicht in der Regel eine dokumentierte Schwellwertanalyse.
Dürfen Kunden- und Mitarbeiterdaten gefahrlos in KI-Prompts eingegeben werden?
Nur wenn ein Unternehmenskonto mit Zero-Data-Retention und AVV genutzt wird und rollenbasierte Berechtigungen (RBAC) sicherstellen, dass Mitarbeitende nur Daten eingeben und einsehen können, für die sie ohnehin autorisiert sind.
Offizielle Informationen und hilfreiche Hintergründe.