Datenschutz bei KI: Was du in den Prompt schreiben darfst

Die häufigste Frage in jedem ahead-future-labs-Workshop: „Darf ich das überhaupt? Ich kippe da Kundendaten in ChatGPT, das kann doch nicht legal sein.”

Die kurze Antwort: Es kommt drauf an. Auf welchen Tarif, welche Daten, welche Rechtsgrundlage. Die ausführliche Antwort folgt jetzt, in einem Format, das dir nach 10 Minuten erlaubt zu entscheiden, was bei dir geht.

Die DSGVO-Basis (in 5 Sätzen)

1. Personenbezogene Daten dürfen nur verarbeitet werden, wenn eine Rechtsgrundlage vorliegt (Art. 6 DSGVO).
2. Bei externer Verarbeitung braucht es einen Auftragsverarbeitungsvertrag (AVV).
3. Ohne AVV ist die Übertragung personenbezogener Daten an externe Anbieter rechtswidrig, auch in „die Cloud”, auch nach USA.
4. Was personenbezogen ist, ist weiter gefasst als die meisten denken: Name, E-Mail, IP-Adresse, Geräte-IDs, oft auch Telefonnummer + Branche.
5. Bei sensiblen Daten (Gesundheit, Religion, Gewerkschaft, sexuelle Orientierung) gilt Art. 9, strenger.

Welche Tarife geben dir DSGVO-Compliance?

„Ja” mit Stern: zusätzlich Privacy-Settings einschalten, „Train on my data” deaktivieren.

Der einfache Entscheidungs-Baum

1. Ist ein DPA / AVV mit dem Anbieter geschlossen?
   ├── Nein → Keine personenbezogenen Daten reinpasten. Keine Klauseln aus Verträgen, keine Kunden-Mails.
   └── Ja → weiter zu 2

2. Sind sensible Daten betroffen (Gesundheit, Religion, etc.)?
   ├── Ja → Zusätzliche Prüfung der Rechtsgrundlage (Art. 9 DSGVO). Im Zweifel: nicht.
   └── Nein → weiter zu 3

3. Ist die Verarbeitung mit dem ursprünglichen Erhebungszweck vereinbar?
   ├── Nein → Einwilligung der Betroffenen einholen oder andere Rechtsgrundlage prüfen.
   └── Ja → OK, in den Prompt damit. Aber: Logging beachten, Aufbewahrungsfristen.

Was im Alltag wirklich passiert

In den meisten KMU sieht der Alltag so aus:

• Mitarbeiter:innen nutzen private ChatGPT-Konten („das ist ja schneller”)
• Kundendaten landen darin
• Niemand hat einen DPA
• DSGVO-Verstoß: ja
• Wahrscheinlichkeit dass es jemand merkt: niedrig
• Wahrscheinlichkeit dass es Probleme gibt wenn es jemand merkt: hoch

Die Lösung ist nicht „das verbieten und Strafen androhen”, das treibt Schatten-IT. Die Lösung ist: einen genehmigten Tarif anschaffen, schulen, dokumentieren.

Drei Faustregeln für den Alltag

1. Vor dem Reinpasten Anonymisieren. Statt „Maria Huber, mariahuber@firma.at, hat sich beschwert über…” → „Eine Kundin hat sich beschwert über…”. Funktioniert in 80 % der Fälle.

2. Bei Sensitivem: lokales Modell oder Enterprise. Personalakten, Gesundheitsdaten, Verträge mit Klauseln → entweder lokal (Llama, Mistral selbst gehostet) oder Enterprise mit EU-Region.

3. Output prüfen. Wenn dir das Modell „Anna K. wohnt in der Hauptstr. 12” antwortet, auch wenn du es nicht reingegeben hast, KI kann auch halluzinieren mit Personen-Daten. Niemals 1:1 weitergeben.

Vertragliche Schritte für dein Unternehmen

Häufige Missverständnisse

„Wir nutzen die Microsoft 365 Copilot, also ist alles DSGVO-konform.” Falsch. Microsoft hat den AVV, du musst ihn aber abgeschlossen haben. Außerdem: Region in der Tenant-Konfig auf EU einstellen.

„Die KI lernt nicht aus meinen Eingaben.” Kommt drauf an. Bei den meisten Enterprise-Tarifen: korrekt. Bei Free / Plus / Pro: oft doch, bis du es manuell deaktivierst.

„Pseudonymisieren reicht.” Reicht oft nicht. Pseudonymisierte Daten bleiben personenbezogen, wenn sie wieder zugeordnet werden können. Strenge Anonymisierung ist die einzig sichere Variante.

„Wir hosten Llama selbst, also ist das kein Datenschutz-Thema.” Doch. DSGVO greift unabhängig vom Hosting. Was sich ändert: kein AVV mit Externem nötig. Aber: VVT, Rechtsgrundlage, Folgenabschätzung, bleiben.

Disclaimer: Dieser Artikel ist redaktionell und ersetzt keine juristische Beratung. Für die konkrete DSGVO-Compliance im eigenen Unternehmen: spezialisierte Anwält:in oder Datenschutzbeauftragte:n einbeziehen.