Datenschutz ist bei KI-Projekten selten das erste Thema – und fast immer das, das am Ende den Zeitplan bestimmt. Die gute Nachricht: Für den Start braucht es kein externes Gutachten, sondern einen strukturierten Selbstcheck. Wer fünf Punkte ehrlich beantwortet, weiß danach, ob ein Agent produktiv gehen darf oder ob erst die Grundlage fehlt.
Was ein KI-Audit leisten soll – und was nicht
Ein KI-Audit ist keine Zertifizierung und keine Absolution. Es beantwortet drei Fragen: Welche Daten laufen durch das System? Auf welcher Grundlage darf das passieren? Und können wir das im Zweifel belegen? Alles andere ist Detailarbeit, die daraus folgt.
Ein Datenfluss, den niemand dokumentiert hat, lässt sich im Zweifel nicht rechtfertigen.
Der 5-Punkte-Selbstcheck
| Prüfpunkt | Leitfrage | Typischer Fund |
|---|---|---|
| 1. Rechtsgrundlage & Zweckbindung | Auf welcher Grundlage verarbeiten wir diese Daten – und deckt die Zweckangabe die tatsächliche Nutzung? | Der Agent nutzt Daten für einen Zweck, der nie dokumentiert wurde (z. B. Qualitätsanalyse) |
| 2. Datenfluss & Datenkategorien | Welche Daten sieht das System wirklich – inklusive Anhänge, Freitextfelder und Logs? | Personenbezug steckt in unstrukturierten Anhängen, nicht in den offiziellen Feldern |
| 3. Auftragsverarbeitung & Drittland | Wer verarbeitet mit uns, wo stehen die Server, ist Trainingsnutzung ausgeschlossen? | Kein AV-Vertrag, unklarer Speicherort, Standardeinstellung „Modellverbesserung“ aktiv |
| 4. Speicherfristen & Löschkonzept | Wie lange liegen Prompts, Antworten, Embeddings und Logs – und wer löscht sie? | Löschung im Fachsystem ist geregelt, im Vektor-Index und Log nicht |
| 5. Betroffenenrechte & Transparenz | Können Auskunft, Löschung und Widerspruch bedient werden – auch in der Kopie im Index? | Auskunft möglich, Löschung scheitert an der Datenkopie im Modellkontext |
Punkt 1: Rechtsgrundlage und Zweckbindung
Fangen Sie mit dem einfachsten Satz an, den Sie aufschreiben können: „Wir verarbeiten diese Daten, um dieses Ergebnis zu erzielen.“ Wenn in der Praxis mehr passiert – Auswertungen, Statistiken, Modellverbesserung –, braucht es dafür eine eigene Betrachtung. Das ist der häufigste Grund, warum ein Projekt im Audit hängen bleibt.
Typischer Stolperstein: Der Zweck ist dokumentiert, die technische Umsetzung erlaubt aber mehr, als der Zweck deckt.
Punkt 2: Datenfluss und Datenkategorien
Ein KI-System sieht selten nur die Felder, die im Formular stehen. Es liest Anhänge, Kommentare, E-Mail-Verläufe, manchmal Metadaten. Erstellen Sie eine Liste der tatsächlich verarbeiteten Datenkategorien – und markieren Sie, was personenbezogen ist und was in eine besondere Kategorie fällt. Ohne diese Liste ist jede weitere Bewertung Spekulation.
Typischer Stolperstein: Freitextfelder, in denen Kundenanliegen inklusive Gesundheitshinweisen oder Familiendaten stehen.
Punkt 3: Auftragsverarbeitung und Drittlandtransfer
Prüfen Sie für jeden eingesetzten Dienst: Liegt ein Auftragsverarbeitungsvertrag vor? Wo wird verarbeitet? Ist die Nutzung der Daten für Modelltraining ausgeschlossen und vertraglich fixiert, nicht nur eine Einstellung in der Oberfläche? Ein sauberer Vertrag nützt wenig, wenn niemand geprüft hat, welche Option im Konto standardmäßig gesetzt war.
Typischer Stolperstein: Ein Dienst wird für einen Prototyp beschäftigt genutzt, wächst dann produktiv – ohne dass jemand die AV-Frage nachgeholt hat.
Punkt 4: Speicherfristen und Löschkonzept
Bei KI-Systemen gibt es mehr Speicherorte als im klassischen Verfahren: Fachsystem, Prompt-Protokoll, Vektor-Index, Cache, Anbieter-Logs. Für jeden Ort braucht es eine Frist und einen Weg zur Löschung. Besonders kritisch sind Kopien, die keinem Datensatz mehr eindeutig zugeordnet werden können.
Typischer Stolperstein: Ein Löschantrag wird im CRM erfüllt, der Index behält den Inhalt aber als Ähnlichkeitstreffer.
Punkt 5: Betroffenenrechte und Transparenz
Auskunft, Berichtigung, Löschung, Widerspruch – alle Rechte müssen technisch bedienbar sein. Dazu gehört die Frage, ob das System Entscheidungen mit rechtlicher Wirkung automatisiert trifft. Wenn ja, braucht es einen definierten Weg zur menschlichen Überprüfung. Transparenz heißt außerdem: Betroffene müssen erkennen können, dass ein KI-System beteiligt ist.
Typischer Stolperstein: Der Agent priorisiert Vorgänge, niemand kann erklären, warum ein Fall nach hinten rutschte.
Der Selbstcheck in 90 Minuten
- Rollen festlegen. Fachbereich, IT, Datenschutz – und jemand, der schreiben darf.
- Datenfluss aufzeichnen. Von der Quelle bis zur Löschung, inklusive Protokolle und Index.
- Fünf Punkte durchgehen. Pro Punkt eine Einschätzung: erfüllt, unklar, offen.
- Offene Punkte zu Maßnahmen machen. Jede Maßnahme braucht einen Namen und ein Datum.
- Ergebnis festhalten. Kurznotiz, datiert, unterschrieben – das ist der Nachweis.
Vier Fehlannahmen
„Wir nutzen die API, also ist alles in Ordnung.“ Die API beantwortet keine Zweckbindungsfrage und keinen Löschantrag.
„Die Daten sind anonymisiert.“ Nachweisbar anonym ist selten. Pseudonymisiert ist etwas anderes und bleibt personenbezogen.
„Der Anbieter hat einen AV-Vertrag, also sind wir fertig.“ Der Vertrag ist die Eintrittskarte, nicht die Prüfung.
„Logs sind technische Daten.“ Logs enthalten Prompts. Prompts enthalten Fallinhalte. Sie sind damit Teil des Verarbeitungsvorgangs.
Was am Ende vorliegen sollte
Ein Nachtrag im Verarbeitungsverzeichnis, die Liste der eingesetzten Dienste mit AV-Status, ein Löschkonzept, das Index und Logs einschließt, eine kurze Beschreibung der technischen und organisatorischen Maßnahmen – und bei hohem Risiko für Betroffene eine Datenschutz-Folgenabschätzung. Wer das sauber beieinander hat, kann auch eine Prüfung gelassen begleiten.
Zwei Werkzeuge erleichtern den Einstieg: Der DSGVO-Scanner liefert die erste Bestandsaufnahme offener Punkte, bevor ein Projekt umgesetzt wird. Und weil Datenschutz ohne Sicherheit nicht belastbar ist, gehört der Blick auf Prompt-Injection, Rechteausweitung und Datenabfluss dazu – dazu haben wir die Prüfmethodik in Teil 7 dieser Serie und den Prüfpfad unter Penetrationstests und Schwachstellenanalysen beschrieben.
Fazit
Ein KI-Audit ist kein Bremsmanöver, sondern eine Liste von Aufgaben. Fünf Punkte, 90 Minuten und die Bereitschaft, unklare Antworten als offene Punkte stehen zu lassen – mehr braucht es für den ersten Durchgang nicht. Wer die Grundlagen in der Architektur verankert, wie in KI-Agenten im Mittelstand beschrieben, muss später nicht nachbessern, was von Anfang an einfacher gewesen wäre.
Im nächsten Teil: Erdbeobachtung und KI – welche Geodaten heute verfügbar sind, was sie für Standort- und Klimaentscheidungen leisten und wo ihre Grenzen liegen.