DSGVO und KI: was Unternehmen vor dem ersten Einsatz klären

Die DSGVO gilt für KI-Systeme wie für jede andere Software: Sobald personenbezogene Daten verarbeitet werden, braucht es eine Rechtsgrundlage, einen festgelegten Zweck, Schutzmaßnahmen und bei externen Anbietern einen Auftragsverarbeitungsvertrag. Neu ist nicht das Recht, sondern die Frage, wohin die Daten fließen und wer sie dort verarbeiten darf.

DSGVO und KI: der Grundsatz

Die Verordnung ist technikneutral. Ob eine Mitarbeiterin eine Kundenanfrage liest oder ein Modell sie zusammenfasst – in beiden Fällen werden personenbezogene Daten verarbeitet, und dieselben Grundsätze gelten: Rechtmäßigkeit, Zweckbindung, Datenminimierung, Richtigkeit, Speicherbegrenzung, Integrität und Vertraulichkeit. Ein KI-Vorhaben wird also nicht dadurch heikel, dass ein Modell darin steckt, sondern dann, wenn diese Grundsätze in der Umsetzung untergehen.

Hinzugekommen ist die KI-Verordnung der EU (AI Act), die Anwendungen nach Risikoklassen unterscheidet. Für die meisten Anwendungen im Büroalltag entstehen daraus vor allem Transparenz- und Dokumentationspflichten, nicht neue Verbote. Beide Regelwerke stehen nebeneinander; das eine ersetzt das andere nicht.

Rechtsgrundlage und Zweckbindung

Für jede Verarbeitung muss eine Rechtsgrundlage aus Art. 6 der Verordnung greifen. Im Unternehmensalltag sind das meist die Vertragserfüllung – die Anfrage eines Kunden wird bearbeitet – oder das berechtigte Interesse, seltener die Einwilligung. Der Zweck setzt die Grenze: Daten, die für die Auftragsabwicklung erhoben wurden, dürfen nicht ohne Weiteres zum Training eines Modells dienen.

Genau hier liegt ein häufiger Fehler. Anbieter, deren Nutzungsbedingungen die Verwendung von Eingaben zum Modelltraining erlauben, sind für Kundendaten ungeeignet, solange diese Option nicht vertraglich ausgeschlossen ist. Diese Prüfung gehört an den Anfang der Anbieterauswahl, nicht in die Woche vor dem Produktivstart.

Auftragsverarbeitung und Anbieterwahl

Wer ein Modell eines externen Anbieters nutzt und dabei personenbezogene Daten übermittelt, lässt im Auftrag verarbeiten. Art. 28 DSGVO verlangt dafür einen Auftragsverarbeitungsvertrag mit Beschreibung der technischen und organisatorischen Maßnahmen. Der Anbieter gehört außerdem in die Liste der Subunternehmer, gegen die eigene Kunden Einspruch erheben können.

Liegt der Anbieter außerhalb der EU, kommt die Drittlandübermittlung hinzu. In der Praxis haben sich drei Wege etabliert:

• Modell auf eigener Hardware: Die Daten verlassen das Haus nicht. Für Transkription, Klassifikation und Suche in Dokumenten reichen offene Modelle meist aus.
• EU-Anbieter oder EU-Region eines großen Anbieters: Verarbeitung innerhalb der Union, mit Vertrag und dokumentierten Maßnahmen.
• Anbieter außerhalb der EU: nur mit anerkannter Übermittlungsgrundlage und nach der Prüfung, welche Daten überhaupt übermittelt werden müssen.

Welche Variante passt, hängt von der Art der Daten ab. Für Gesundheitsdaten, Personalakten oder Finanzdaten gelten strengere Maßstäbe als für eine anonymisierte Produktbeschreibung.

Datenminimierung statt Vertrauen

Das wirksamste Mittel ist, personenbezogene Daten gar nicht erst an das Modell zu geben. Viele Aufgaben funktionieren ohne: Eine Rechnung lässt sich einordnen, ohne den Namen des Sachbearbeiters mitzuschicken; eine Anfrage lässt sich zusammenfassen, nachdem Name und Adresse durch Platzhalter ersetzt wurden. Diese Pseudonymisierung geschieht vor dem Modellaufruf und wird nach der Antwort wieder aufgelöst.

Bei Systemen mit Wissensbasis gilt dasselbe für die abgelegten Dokumente – was nicht in der Basis liegt, kann auch nicht ausgegeben werden. Wie eine solche Wissensbasis aufgebaut wird, beschreibt der Artikel Retrieval-Augmented Generation. In einem eigenen Vorhaben wurden auf diesem Weg 50 Regeln aus einem Chatverlauf an einem Tag in eine produktive Wissensbasis überführt – jede einzelne vor der Aufnahme von einem Menschen freigegeben.

Betroffenenrechte, Transparenz, AI Act

Auskunft, Berichtigung, Löschung: Diese Rechte müssen auch dann erfüllbar sein, wenn Daten durch ein KI-System gelaufen sind. Praktisch heißt das, dass Protokolle der Modellaufrufe personenbezogene Daten nur so lange enthalten dürfen, wie der Zweck es verlangt, und dass sie löschbar sein müssen. Wer ein Modell mit Kundendaten nachtrainiert, sollte wissen, dass sich einzelne Datensätze aus einem trainierten Modell nicht wieder entfernen lassen – ein Grund, dafür nur anonymisierte oder synthetische Daten zu verwenden, wie der Artikel Fine-Tuning von Sprachmodellen ausführt.

Transparenz betrifft zwei Gruppen: Mitarbeiter, deren Arbeit ein System unterstützt oder bewertet, und Kunden, die mit einem System kommunizieren. Antwortet ein Assistenzsystem auf Anfragen, sollte erkennbar sein, dass ein Entwurf maschinell entstanden und von einem Menschen freigegeben worden ist. Automatisierte Entscheidungen mit rechtlicher Wirkung – etwa die Ablehnung eines Antrags – unterliegen nach Art. 22 der Verordnung besonderen Regeln und sind ohne menschliche Prüfung in der Regel nicht zulässig.

DSGVO-Checkliste vor dem Start

• Welche Daten fließen in das System, und welche davon sind personenbezogen?
• Lässt sich die Aufgabe mit pseudonymisierten Daten lösen?
• Wo läuft das Modell, und liegt ein Vertrag zur Auftragsverarbeitung samt Maßnahmenbeschreibung vor?
• Ist der Zweck im Verzeichnis der Verarbeitungstätigkeiten dokumentiert?
• Wie lange werden Eingaben und Ausgaben protokolliert, und wer kann sie löschen?
• Ist bei erhöhtem Risiko eine Datenschutz-Folgenabschätzung nötig?
• Wer gibt Ergebnisse frei, bevor sie nach außen wirken?

Diese Fragen gehören an den Anfang eines Vorhabens. Wir klären sie deshalb in derselben Phase, in der der Prototyp entsteht, und halten die Antworten schriftlich fest, bevor echte Daten fließen; wo wir unsicher sind, sagen wir es und holen den Datenschutzbeauftragten dazu. Wie sich das in den Projektverlauf einfügt, zeigt der Artikel KI-Implementierung: Ablauf in fünf Phasen; die Auswahl von Betriebsform und Anbieter gehört zur KI-Beratung für den Mittelstand. Die abschließende rechtliche Bewertung bleibt Aufgabe eines Fachanwalts.