Der AI Act ersetzt den Datenschutz nicht

Sobald personenbezogene Daten mit einem KI-System verarbeitet werden, bleibt die DSGVO relevant. Die österreichische Datenschutzbehörde weist ausdrücklich darauf hin, dass die Pflichten nach DSGVO und AI Act parallel gelten können. 1

Das betrifft nicht nur Training eigener Modelle. Schon das Zusammenfassen einer Kunden-E-Mail, die Analyse eines Lebenslaufs oder die Suche in internen Dokumenten kann personenbezogene Daten verarbeiten.

Wer ist verantwortlich?

Ein häufiger Irrtum lautet: „Der KI-Anbieter verarbeitet die Daten, also ist er verantwortlich.“

Die Datenschutzbehörde erklärt, dass die Stelle, die Zwecke und Mittel der Verarbeitung bestimmt, regelmäßig datenschutzrechtlich verantwortlich ist – auch wenn technische Vorgaben von einem fremden Anbieter stammen. 1

Der Anbieter kann zusätzlich Auftragsverarbeiter oder eigener Verantwortlicher für bestimmte Zwecke sein. Das muss vertraglich und anhand der tatsächlichen Datenflüsse geprüft werden.

Die sieben Fragen vor dem produktiven Einsatz

1. Was ist der konkrete Zweck?

„KI verwenden“ ist kein Zweck. Besser:

„Eingehende Serviceanfragen kategorisieren und einen Antwortentwurf für Mitarbeiter vorbereiten.“

Ein klarer Zweck begrenzt Daten und Funktion.

2. Welche Daten sind notwendig?

Nicht jede Information aus einer E-Mail muss an das Modell. Datenminimierung kann bedeuten:

  • Anhänge ausschließen,
  • Namen vorab pseudonymisieren,
  • nur relevante Textabschnitte senden,
  • sensible Felder technisch blockieren.

3. Welche Rechtsgrundlage gilt?

Je nach Fall kommen Vertrag, vorvertragliche Maßnahmen, Einwilligung, rechtliche Pflicht oder berechtigtes Interesse in Betracht. Besondere Kategorien personenbezogener Daten brauchen zusätzlich eine Grundlage nach Artikel 9 DSGVO.

Der EDPB erläutert für berechtigtes Interesse einen dreistufigen Test aus berechtigtem Interesse, Erforderlichkeit und Interessenabwägung. Bei KI-Modellen ist eine Einzelfallprüfung notwendig. 2

4. Wer erhält Daten?

Zu klären sind:

  • Modellanbieter,
  • Hosting,
  • Protokollierung,
  • Unterauftragsverarbeiter,
  • verbundene Tools,
  • Supportzugriffe.

5. Wo werden Daten verarbeitet?

Bei Übermittlungen außerhalb des EWR sind geeignete Garantien und der konkrete Transfer zu prüfen. Eine pauschale Aussage „Server in der EU“ beantwortet nicht jeden Datenfluss.

6. Wie lange werden Daten gespeichert?

Prompt-Historie, Logs, Dateien, Backups und Vektordatenbanken können unterschiedliche Fristen haben. Löschung muss technisch möglich und organisatorisch vorgesehen sein.

7. Welche Rechte haben Betroffene?

Auskunft, Berichtigung, Löschung, Einschränkung und Widerspruch müssen auch bei neuen KI-Datenflüssen berücksichtigt werden.

„Wir verwenden die Daten nicht zum Training“ reicht nicht

Ob Kundendaten zum allgemeinen Modelltraining verwendet werden, ist wichtig. Datenschutz umfasst aber mehr:

  • Wird die Eingabe gespeichert?
  • Können Mitarbeiter des Anbieters zugreifen?
  • Wo liegen Logs?
  • Welche Metadaten entstehen?
  • Werden Daten für Missbrauchskontrolle verarbeitet?
  • Welche Unterauftragnehmer sind beteiligt?

Ein „No Training“-Versprechen ersetzt keine vollständige Anbieter- und Vertragsprüfung.

Anonym, pseudonym oder weiterhin personenbezogen?

Pseudonymisierte Daten bleiben personenbezogen, wenn eine Zuordnung möglich ist. Echte Anonymität erfordert, dass eine Identifizierung mit vertretbaren Mitteln sehr unwahrscheinlich ist.

Der EDPB betont bei KI-Modellen eine Einzelfallbewertung. Ein Modell gilt nicht automatisch als anonym, nur weil Trainingsdaten nicht direkt sichtbar sind. Es muss auch sehr unwahrscheinlich sein, Personen zu identifizieren oder deren Daten durch Abfragen zu extrahieren. 2

Datenschutz-Folgenabschätzung

Eine DSFA kann erforderlich sein, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für Rechte und Freiheiten mit sich bringt. Warnzeichen sind:

  • umfangreiche Bewertung von Personen,
  • sensible Daten,
  • Überwachung,
  • neue Technologien in riskantem Kontext,
  • große Datenmengen,
  • Entscheidungen mit erheblicher Wirkung.

Eine DSFA ist kein nachträgliches Formular. Sie soll Risiken vor dem Start erkennen und Maßnahmen beeinflussen.

RAG und interne Wissenssysteme

Ein interner Assistent kann Dokumente durchsuchen. Datenschutzfragen entstehen an mehreren Stellen:

  • Welche Dokumente werden indexiert?
  • Werden Rechte aus dem Quellsystem übernommen?
  • Können Nutzer fremde Personal- oder Kundendaten finden?
  • Werden Abfragen protokolliert?
  • Lassen sich Dokumente und abgeleitete Vektoren löschen?

NIST behandelt Datenschutz als eine zentrale Vertrauenseigenschaft generativer KI und empfiehlt risikobasierte Maßnahmen über den Lebenszyklus. 3

Interne Nutzungsregeln

Mitarbeiter brauchen klare Antworten:

Erlaubt:

  • öffentliche Informationen in freigegebenen Tools,
  • definierte interne Aufgaben im Unternehmenskonto,
  • anonymisierte Testfälle.

Nur im freigegebenen Prozess:

  • Kundenkommunikation,
  • Verträge,
  • Mitarbeiterdaten,
  • interne Kalkulation.

Nicht erlaubt:

  • Passwörter und API-Schlüssel,
  • unkontrollierte sensible Daten,
  • Datenübertragung in private Konten,
  • autonome Entscheidungen außerhalb der Freigabe.

Technische Schutzmaßnahmen

  • Single Sign-on und Mehrfaktor-Authentifizierung,
  • Rollen und minimale Rechte,
  • getrennte Test- und Produktivdaten,
  • Verschlüsselung,
  • Datenverlustschutz,
  • Protokollierung,
  • automatische Löschfristen,
  • Filter für besonders sensible Angaben,
  • menschliche Freigabe.

Die DSGVO verlangt angemessene Maßnahmen nach Risiko, nicht ein identisches Kontrollpaket für jeden Einsatz. Der Verordnungstext bleibt die rechtliche Grundlage. 4

Ein praktisches Anbieter-Prüfblatt

Dokumentieren Sie:

  • Vertragsrolle,
  • Auftragsverarbeitungsvertrag,
  • Unterauftragnehmer,
  • Verarbeitungsorte,
  • Datenverwendung,
  • Speicherfristen,
  • Sicherheitszertifizierungen,
  • Lösch- und Exportmöglichkeiten,
  • Vorfallinformation,
  • Modell- und Produktänderungen.

Datenschutzkonforme KI beginnt nicht mit einem Häkchen in den Einstellungen, sondern mit einem begrenzten Zweck und einem nachvollziehbaren Datenfluss.

Fazit

Generative KI kann personenbezogene Daten sinnvoll verarbeiten, wenn Zweck, Rechtsgrundlage, Datenminimierung, Anbieter, Speicherfristen und Betroffenenrechte sauber geklärt sind.

Für KMU ist der praktikable Weg ein freigegebener Prozess statt unkontrollierter Einzelnutzung. Technische Umsetzung, interne Regeln und rechtliche Prüfung müssen zusammenarbeiten.

Nachvollziehbar belegt

Quellen und weiterführende Dokumente

Geprüft am 28. Juli 2026
  1. 1
    Österreichische DatenschutzbehördeKünstliche Intelligenz & DatenschutzVeröffentlicht/aktualisiert: 2026
  2. 2
    European Data Protection BoardOpinion 28/2024 on data protection aspects related to AI modelsVeröffentlicht/aktualisiert: 2024
  3. 3
  4. 4
    EUR-LexVerordnung (EU) 2016/679 – Datenschutz-GrundverordnungVeröffentlicht/aktualisiert: 2016

Bei Rechts- und Datenschutzthemen dient der Artikel der Orientierung und ersetzt keine individuelle rechtliche Beratung.