Es gibt da draußen kaum einen Artikel, der KI und Cloud-Compliance wirklich von vorne bis hinten erklärt. Das ist ein Problem, denn die meisten Unternehmer, mit denen ich rede, glauben einen von zwei Sätzen: Entweder 'das ist doch alles egal, das prüft doch eh keiner' — oder: 'KI ist in Deutschland sowieso verboten'. Beide Sätze sind falsch. Der erste kann richtig teuer werden. Der zweite kostet dich deinen Vorsprung und echte Opportunitätskosten.
Ich zeige dir deshalb heute alles zum Thema Compliance — und damit meine ich wirklich alles. Datenschutz, DSGVO, das neue KI-Gesetz der EU, die Cloud und was du bei Tools wie ChatGPT, Claude oder Azure beachten musst. Am Ende hast du einen einfachen Startplan, mit dem du dein eigenes Setup einmal sauber durchgehen kannst.
Wichtiger Hinweis: Ich bin kein Anwalt und das hier ist keine Rechtsberatung. Bei wirklich heiklen Fällen gehörst du zu einem Datenschutzbeauftragten oder Juristen. Was du hier bekommst, ist praktische Orientierung — damit du die richtigen Fragen stellst und nicht aus Unwissenheit in eine Falle läufst, die du leicht hättest vermeiden können.
Das eine Bild, das alles verändert: Externer Mitarbeiter statt Chatfenster
Wenn du etwas in ein KI- oder Cloud-Tool eingibst, liegt diese Information nicht mehr nur auf deinem Schreibtisch. Du gibst sie quasi aus der Hand — an einen externen Dienstleister, der sie für dich verarbeitet. Und genau deshalb ist das beste mentale Modell nicht ein Chatfenster, sondern ein externer Mitarbeiter.
Stell dir vor, du stellst jemanden ein, der für dich arbeitet, aber nicht in deinem Büro sitzt. Bei so einem Menschen würdest du dir automatisch ein paar Fragen stellen: Was darf der sehen? Was darf der speichern? Darf der das an jemand anderen weitergeben? Und was passiert mit allem, wenn er irgendwann wieder geht?
Alles, worüber wir im Bereich Compliance reden — Verträge, Speicherung, Datenschutz — sind im Grunde genau diese Fragen. Nur eben für Software statt für Menschen.
Was sind eigentlich 'personenbezogene Daten'? Mehr als du denkst
Der Begriff fällt ständig und wird fast immer zu eng verstanden. Viele denken, das seien nur Name und Adresse. Falsch. Personenbezogen ist alles, womit man eine Person direkt oder auch nur indirekt erkennen kann.
- E-Mail-Adresse, Telefonnummer, Kundennummer
- IP-Adresse, Standort, Foto, Stimme
- Das Transkript eines Gesprächs
- Eine Notiz im CRM
- Bewerbungsunterlagen
- Gesundheitsdaten, Finanzdaten
| Beispiel | Harmlos ✅ | Kritisch ❌ |
|---|---|---|
| Newsletter-Ideen | 'Schreib mir 5 Ideen für einen Immobilien-Newsletter' | — |
| Kundendaten | — | 'Hier ist die Mail von Familie Müller mit Adresse und Tel. — fass das zusammen' |
| Konsequenz | Kein Problem — keine personenbez. Daten | Ab diesem einen Satz greift alles: DSGVO, AVV, Transfergrundlage |
Solange du die Schwelle nicht überschreitest, ist alles entspannt. Aber sobald echte Personendaten in ein fremdes Tool fließen, wird es ernst. Diese Schwelle musst du kennen — und dein Team muss sie kennen.
Die drei Regelwerke, die du verstehen musst
Damit du nie wieder den Überblick verlierst: Es gibt genau drei Regelwerke. Mehr nicht.
DSGVO — kümmert sich um den Schutz personenbezogener Daten. Wer verarbeitet was von wem, mit welchem Vertrag, wie lange und wie sicher?
AI Act — das neue KI-Gesetz der EU. Es fragt nicht 'Nutzt du KI?' sondern 'Wofür nutzt du KI und wie stark kann das echte Menschen beeinflussen?' Je höher das Risiko, desto strenger die Pflichten.
Vertragsebene / Cloud-Recht — hier geht es um den Auftragsverarbeitungsvertrag (AVV), Unterauftragnehmer, Zugriff, Logging und Speicherdauer. Das verbindet DSGVO mit dem konkreten Tool-Setup.
Wenn du diese drei Schubladen im Kopf hast — DSGVO, AI Act, Vertrag — kannst du jedes Tool einsortieren. Es ist kein Hexenwerk. Es ist eine Struktur.
Der häufigste Fehler: Der falsche Account-Typ
Fast jedes KI-Tool gibt es in zwei Welten: private Accounts für dich zu Hause zum Ausprobieren — und geschäftliche Accounts für Unternehmen mit völlig anderen Regeln. Das ist der häufigste und teuerste Fehler, den ich bei Unternehmen sehe.
Anthropic Claude: Private Accounts speichern Daten bis zu 5 Jahre und können sie für Modell-Training verwenden. Business-Accounts: 30 Tage, kein Training — wenn du es richtig einstellst.
Bei Claude findest du die Einstellung unter: Einstellungen → Datenschutz → 'Hilf uns unsere KI-Modelle zu verbessern' → ausschalten. Dauert 10 Sekunden. Die meisten haben es noch nie gemacht.
Für die Unternehmensebene gilt: Nicht auf claude.ai, sondern auf platform.anthropic.com → Organisationseinstellungen → Datenschutzeinstellungen → 'Nutzer-Feedback erlauben' → ausschalten. Das gilt dann für dein gesamtes Team.
Der AVV: Das Dokument, das fast immer fehlt
Wenn ein Anbieter Daten in deinem Auftrag verarbeitet, brauchst du mit ihm einen Vertrag. Der heißt Auftragsverarbeitungsvertrag (AVV) — auf Englisch Data Processing Agreement (DPA). Ohne diesen Vertrag fehlt dir die rechtliche Grundlage dafür, dass der Anbieter deine Daten überhaupt anfassen darf.
DSGVO Art. 28 Abs. 3 ist eindeutig: 'Die Verarbeitung durch einen Auftragsverarbeiter erfolgt auf der Grundlage eines Vertrags oder eines anderen Rechtsinstruments nach dem Unionsrecht.' Kein AVV = kein sauberer Rahmen. Das ist einer der ersten Punkte, die eine Behörde oder ein großer Kunde abfragt.
Die gute Nachricht: Bei den meisten großen Anbietern ist der AVV im Business-Tarif bereits enthalten. Bei Anthropic ist das DPA automatisch Teil der Commercial Terms — du musst es nur finden, abspeichern und in deine Akte legen, damit du es zeigen kannst, falls jemand danach fragt.
Transfergrundlage: Wenn Daten die EU verlassen
Sobald deine Daten die EU verlassen oder von außerhalb zugänglich sind, brauchst du eine Transfergrundlage. Es gibt zwei häufige Wege:
| Transfergrundlage | Was es ist | Worauf achten |
|---|---|---|
| EU-US Data Privacy Framework (DPF) | Offizielles Abkommen zwischen EU und USA | Nur gültig wenn der konkrete Anbieter auf der DPF-Liste steht — unter dataprivacyframework.gov prüfbar |
| Standardvertragsklauseln (SCCs) | Vertragliche Schutzklauseln | Robuster als DPF, da vertraglich fixiert |
| EU-Region wählen (z.B. Azure Germany) | Daten verlassen die EU gar nicht | Stärkste Lösung — erspart die ganze Transfer-Diskussion |
Wichtig zum DPF: Es ist kein Zauberstempel. Es ist gültig, aber es liegt eine Berufung dagegen beim höchsten EU-Gericht vor. Das heißt nicht, dass du es nicht nutzen darfst — es heißt nur, behandel es nicht als für immer in Stein gemeißelt.
Azure richtig einrichten: Region zuerst, dann alles andere
Viele sagen: 'Wir nehmen Azure, da steht Microsoft drauf, also ist das sicher.' Das ist ein Denkfehler. Azure ist nicht automatisch sicher. Azure ist sicher, wenn du ein paar Dinge bewusst einstellst.
Der wichtigste Schritt: Bei der Ressourcen-Erstellung die Region 'Germany West Central' wählen. Mit dieser einen Auswahl bleiben Verarbeitung und Speicherung in der EU. Das ist der Unterschied zwischen 'wir hoffen mal, dass das passt' und 'wir können es im Vertrag und in der Konfiguration zeigen'.
Microsoft garantiert schriftlich: Trainingsdaten sind nicht für andere Kunden, nicht für OpenAI und nicht für Dritte verfügbar. Kundendaten werden nicht zur Verbesserung von Microsoft-Produkten verwendet — ohne ausdrückliche Genehmigung. Das ist schwarz auf weiß in den Microsoft-Docs.
Zero Data Retention (ZDR): Der stärkste Baustein — aber kein Allheilmittel
ZDR bedeutet: Der Anbieter verarbeitet deine Anfrage, um zu antworten — speichert sie danach aber nicht dauerhaft. Klingt perfekt. Ist es fast. Aber zwei Dinge, die du wirklich wissen musst:
- ZDR ist bei den meisten Anbietern kein Schalter — du musst es beantragen. Bei Anthropic: platform.anthropic.com → Organisationseinstellungen → Datenschutz → 'Support kontaktieren' → Zero Data Retention anfragen.
- ZDR gilt bei Anthropic nur für API-Nutzer mit Commercial Organization oder Enterprise Plan. Free, Pro und Max sind ausdrücklich ausgeschlossen.
- Bei Azure heißt es 'Modified Abuse Monitoring' — im Standard speichert Azure Eingaben bis zu 30 Tage und ein Mensch kann reinschauen. Das lässt sich per Antrag abschalten.
- ZDR heißt nicht DSGVO erledigt. Es ist ein starker Baustein — mehr aber auch nicht. Du denkst weiterhin in Zweck, Verträgen und so wenig Daten wie möglich.
Subprocessors und TOMs: Zwei Begriffe, die du kennen solltest
Subprocessors (Unterauftragnehmer) sind die Dienstleister deines Dienstleisters. Der Anbieter, den du nutzt, hat selbst wieder Hosting, Logging, Support und Infrastruktur im Hintergrund. Du musst grob wissen, wer in dieser Kette mithängt. Gute Anbieter haben dafür eine öffentliche Liste.
TOMs (Technische und organisatorische Maßnahmen) sind alles, womit du den Zugriff absicherst: Zwei-Faktor-Login, klare Rollen und Rechte, sofortiger Zugangsverlustes bei Ausscheiden, Verschlüsselung und klare Regeln, wer überhaupt was in welches Tool eingeben darf.
Interne AI Policy: Die Regel, die fast niemand hat
Die meisten Datenpannen passieren nicht, weil jemand böse ist. Sie passieren, weil niemand gesagt hat, was erlaubt ist und was nicht. Du brauchst eine einfache interne AI Policy — ein Dokument, das genau das beantwortet:
- →Welche KI-Tools sind bei uns erlaubt — und welche nicht?
- →Welche Daten dürfen in Tools eingegeben werden — und welche niemals?
- →Wer prüft neue Anwendungsfälle, bevor sie eingeführt werden?
- →Wie dokumentieren wir unser Setup (AVV, Einstellungen, Transfergrundlage)?
- →Wer ist die verantwortliche Person für KI-Compliance in unserem Betrieb?
Dazu kommt seit Februar 2025 die AI Literacy Pflicht (Teil des AI Acts): Mitarbeiter, die mit KI arbeiten, müssen genug verstehen, um keine gefährlichen Fehler zu machen. Also: Halluzinationen erkennen, keine sensiblen Daten blind reinkopieren, Ergebnisse prüfen, wissen wann ein Mensch entscheiden muss. Das bedeutet nicht Informatik-Studium — es bedeutet grundlegendes Verständnis.
Der AI Act: Risikobasiert und logischer als du denkst
Der AI Act fragt nicht 'nutzt du KI?' — er fragt 'wofür?'. Zwei Rollen: Der Provider baut ein KI-System oder bietet es unter eigenem Namen an. Der Deployer nutzt es beruflich. Die meisten normalen Unternehmen sind Deployer. Wer aber anfängt selbst etwas zu bauen, zu integrieren oder weiterzuverkaufen, kann in eine andere Rolle rutschen.
AI Act Risikoklassen — wo fällst du rein?
Bußgelder bei AI-Act-Verstößen: Bis zu 35 Mio. € oder 7% des weltweiten Jahresumsatzes bei verbotenen Praktiken. Bis zu 15 Mio. € oder 3% bei anderen wichtigen Verstößen. Für kleine Unternehmen gibt es Staffelungen.
Zwei deutsche Spezialthemen, die in kaum einem Compliance-Video vorkommen
Der Betriebsrat
Wenn dein Unternehmen einen Betriebsrat hat und du ein System einführst, das Verhalten oder Leistung von Mitarbeitern messbar machen kann, muss der Betriebsrat oft mitbestimmen. Das ist eine eigene Pflicht — völlig unabhängig von der DSGVO. In der Praxis ist genau das oft der eigentliche Showstopper, an den vorher niemand denkt.
Das Berufsgeheimnis
Wenn du Arzt, Anwalt, Steuerberater oder Psychotherapeut bist — also ein Berufsgeheimnisträger — reicht die normale Prüfung nicht aus. Wenn du Mandanten- oder Patientendaten in ein Cloud-Tool gibst, geht es nicht nur um Datenschutz, sondern auch um deine strafbewährte Schweigepflicht. Du musst deine Dienstleister besonders sauber einbinden und zur Geheimhaltung verpflichten.
Der unterschätzteste Fall: Der Chatbot, der auf deine Firmendaten zugreift
Viele denken: 'Ach, das ist doch nur ein Chatbot mit ein paar Dokumenten.' Aber in dem Moment, in dem du einen Bot an dein CRM, deine E-Mails, deine Kundendatenbank oder interne Dokumente hängst, ist es kein Chatbot mehr — dann ist es Infrastruktur, die echte Kundendaten verarbeitet.
- Saubere Datenquellen (kein Wildwuchs)
- Ein Berechtigungskonzept (wer sieht was?)
- Ein Löschkonzept (wie lange bleiben Daten?)
- Klare Regeln für den Fall, dass die KI halluziniert
- Eine saubere Vertragskette (AVV, Subprocessors)
- Je nach Datenlage eine DSFA (Datenschutz-Folgenabschätzung)
Das ist kein Grund, es nicht zu tun. Es ist nur der Grund, es richtig zu tun. Wer einen KI-Assistenten mit Kundendaten aufbaut und das sauber dokumentiert, hat einen echten Wettbewerbsvorteil — gegenüber allen, die es heimlich und ohne Vertrag machen.
Dein 10-Schritte-Startplan
Schritt 1: Mach eine Liste aller KI-Tools, die du wirklich benutzt — auch die heimlichen.
Schritt 2: Stopp die privaten Accounts für alles, was mit echten Daten zu tun hat.
Schritt 3: Wechsel auf geschäftliche Versionen (Business, Team, Enterprise oder API).
Schritt 4: Hol dir für jedes Tool den AVV und dokumentiere die Transfergrundlage.
Schritt 5: Prüf Training- und Speichereinstellungen und stell sie korrekt ein (opt-out Training, ZDR anfragen).
Schritt 6: Schreib eine einfache interne KI-Regel und schul dein Team einmal durch.
Schritt 7: Sortiere deine Anwendungsfälle nach Risiko (AI Act Risikoklassen).
Schritt 8: Für Hochrisiko-Fälle prüfe eine DSFA (Datenschutz-Folgenabschätzung).
Schritt 9: Gib so wenig echte Kundendaten wie möglich ins Tool — minimieren und anonymisieren.
Schritt 10: Benenne eine verantwortliche Person, die das Thema wirklich besitzt.
Wenn du diese zehn Schritte einmal durchgehst, bist du weiter als die allermeisten da draußen. Compliance bedeutet nicht: du darfst keine KI nutzen. Es bedeutet: du weißt, was mit deinen Daten passiert — und du kannst es zeigen. Genau das macht dich professioneller, nicht langsamer.
Du möchtest dein KI-Setup einmal sauber durchgehen — mit jemandem, der dir sagt, wo die echten Risiken liegen und wie du sie schnell schließt? Dann lass uns reden. Ich begleite Unternehmen dabei, KI sicher und rechtssicher einzuführen.
