DSGVO-konformen Chatbot auf eigenen Dokumenten aufbauen: die Checkliste
Ein DSGVO-konformer Chatbot ist kein besonderes Produkt, sondern ein Dokumenten-Chatbot, dessen Datenflüsse Sie kennen, begründen und begrenzen. Dafür brauchen Sie eine Rechtsgrundlage je Zweck, einen Vertrag zur Auftragsverarbeitung mit jedem Dienstleister, eine vorab festgelegte Speicherdauer, bereinigte Dokumente und einen klaren Hinweis am Chatfenster. Diese Checkliste führt Sie Schritt für Schritt durch die Entscheidungen. Sie ist eine praktische Hilfe und ersetzt nicht die Abstimmung mit Ihrem Datenschutzbeauftragten.
Rechtsrahmen und Bestandsaufnahme
Maßgeblich ist die Datenschutz-Grundverordnung (EU) 2016/679, in Deutschland ergänzt durch das BDSG. Zuständig sind für Unternehmen in der Regel die Datenschutzaufsichtsbehörden der Länder, für Bundesbehörden und Telekommunikationsanbieter der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit. Die Datenschutzkonferenz hat eine Orientierungshilfe zum Einsatz von KI veröffentlicht, die sich für die Planung lohnt. Hinzu kommt die KI-Verordnung (AI Act): Ihre Transparenzpflichten für Systeme, die mit Menschen interagieren, gelten seit August 2026.
Machen Sie zuerst eine Bestandsaufnahme. Personenbezogene Daten gelangen auf drei Wegen in einen Dokumenten-Chatbot:
- Über die Dokumente: unterschriebene Verträge, Protokolle, Personalrichtlinien mit Namensbeispielen, Ticket- oder CRM-Exporte.
- Über die Fragen: Kunden fügen Bestellnummer und Anschrift ein, Beschäftigte schildern ihre Krankmeldung, um ihre Ansprüche zu erfahren.
- Über die Protokolle: Chatverläufe, Konto-IDs, IP-Adressen, Analysewerkzeuge und Logs bei Ihren Dienstleistern.
Schritt 1: Rechtsgrundlage je Zweck festlegen
Art. 6 DSGVO kennt sechs Rechtsgrundlagen. Für einen Dokumenten-Chatbot kommen meist drei in Frage. Halten Sie die Wahl im Verzeichnis von Verarbeitungstätigkeiten nach Art. 30 fest:
Typische Zwecke und Rechtsgrundlagen
| Zweck | Naheliegende Grundlage | Worauf achten |
|---|---|---|
| Kundenfragen zu Bestellung oder Vertrag beantworten | Vertragserfüllung, Art. 6 Abs. 1 lit. b | Nur abfragen, was zur Antwort nötig ist |
| Beschäftigten interne Richtlinien zugänglich machen | Berechtigtes Interesse, Art. 6 Abs. 1 lit. f | Dokumentierte Interessenabwägung, Betriebsrat einbinden |
| Interessenten erfassen und kontaktieren | Einwilligung, Art. 6 Abs. 1 lit. a | Gesonderte Einwilligung, einfacher Widerruf |
| Chatverläufe zur Verbesserung auswerten | Berechtigtes Interesse | Eigener Zweck, kurze Speicherdauer, Widerspruchsmöglichkeit |
Besondere Kategorien nach Art. 9 (Gesundheit, Religion, Gewerkschaftszugehörigkeit) brauchen zusätzliche Voraussetzungen. Am einfachsten ist es, solche Daten gar nicht zu indexieren und Nutzer zu bitten, sie nicht einzugeben. Bei einem internen Assistenten sollten Sie außerdem früh den Betriebsrat einbeziehen: Ein Werkzeug, das Nutzungsdaten von Beschäftigten protokolliert, kann mitbestimmungspflichtig sein.
Schritt 2: Auftragsverarbeitung nach Art. 28 regeln
Hinter einem Chatbot stehen fast immer mehrere Anbieter: Hosting, Wissensdatenbank oder Retrieval-Dienst, die API eines Sprachmodells, eventuell ein Widget-Anbieter. Wer personenbezogene Daten in Ihrem Auftrag verarbeitet, ist Auftragsverarbeiter, und Art. 28 DSGVO verlangt einen Vertrag mit festgelegtem Mindestinhalt. Prüfen Sie für jeden Anbieter:
- Einen AV-Vertrag mit den Pflichtinhalten: Weisungsbindung, Vertraulichkeit, technische und organisatorische Maßnahmen, Unterauftragsverarbeiter, Unterstützung bei Betroffenenrechten, Löschung nach Vertragsende, Kontrollrechte.
- Eine aktuelle Liste der Unterauftragsverarbeiter und eine Benachrichtigung bei Änderungen.
- Ob Ihre Eingaben und Dokumente zum Training eigener Modelle verwendet werden, und wie Sie das ausschließen.
- Wie lange der Anbieter Anfragen, Antworten und Logs speichert.
- In welchen Ländern verarbeitet wird und welches Übermittlungsinstrument gilt.
Drittlandtransfers nicht vergessen
Greift ein Anbieter aus einem Drittland auf die Daten zu, liegt eine Übermittlung nach Kapitel V vor. Grundlage ist dann ein Angemessenheitsbeschluss (etwa der EU-US Data Privacy Framework für zertifizierte Unternehmen) oder Standardvertragsklauseln mit Transfer Impact Assessment. Die amtlichen Texte dazu finden Sie in der Wissensdatenbank GDPR & International Data Transfers (englischsprachige Quellen, mit Zitaten abfragbar).
Schritt 3: Datenminimierung bei den Dokumenten
Datenminimierung (Art. 5 Abs. 1 lit. c) ist der Punkt, an dem Sie beim Dokumenten-Chatbot am meisten steuern können, denn Sie wählen die Dokumente aus. Die Suche kann nur finden, was in der Datenbank steht.
- Indexieren Sie Referenzmaterial (Richtlinien, Handbücher, Produktdokumentation, Gesetzestexte), keine Akten über einzelne Personen.
- Pseudonymisieren Sie Vorlagen und Beispiele: Rollen statt Namen („die Mitarbeiterin“, „der Kunde“).
- Trennen Sie Wissensdatenbanken nach Zielgruppe: eine für Kunden, eine für die Personalabteilung, eine für die Buchhaltung.
- Lassen Sie neue Uploads nach dem Vier-Augen-Prinzip prüfen.
- Entfernen Sie veraltete Fassungen; auch Richtigkeit ist ein Grundsatz der DSGVO.
Schritt 4: Speicherdauer und Sicherheit
Speicherbegrenzung (Art. 5 Abs. 1 lit. e) heißt: Die Aufbewahrungsfrist für Chatverläufe steht vor dem Start fest. Eine kurze, zweckgebundene Frist, zum Beispiel 30 Tage zur Fehleranalyse, danach automatische Löschung oder Anonymisierung, ist deutlich leichter zu begründen als ein unbegrenzter Verlauf. Stimmen Sie die Fristen Ihrer Dienstleister darauf ab. Denken Sie auch an Backups und Exporte: Eine Löschfrist, die nur im Chatfenster greift, aber nicht in Sicherungskopien oder Analysewerkzeugen, erfüllt den Zweck nicht.
Zur Sicherheit nach Art. 32: Verschlüsselung bei Übertragung und Speicherung, getrennte Rechte für Hochladen und Abfragen, API-Schlüssel als Geheimnisse verwalten und regelmäßig erneuern, Zugriffe protokollieren, und ein Meldeprozess, der eine Datenpanne binnen 72 Stunden an die Aufsichtsbehörde melden kann (Art. 33). Die Empfehlungen des BSI, etwa der IT-Grundschutz, bieten dafür einen bewährten Rahmen. Achten Sie außerdem auf versteckte Anweisungen in hochgeladenen Dokumenten (Prompt Injection): Indexierte Inhalte sind Daten, keine Befehle.
Schritt 5: Transparenz, Betroffenenrechte und DSFA
Nach Art. 13 und 14 müssen Sie bei der Erhebung informieren. Bewährt hat sich ein kurzer Hinweis direkt am Chatfenster mit Link auf die vollständige Datenschutzerklärung. Er sagt:
- Dass ein automatisierter Assistent antwortet, und wie man einen Menschen erreicht.
- Was mit den Nachrichten geschieht, wer sie erhält und wie lange sie gespeichert werden.
- Dass keine sensiblen Daten eingegeben werden sollen.
- Wie Auskunft, Löschung und Widerspruch funktionieren.
Bereiten Sie Auskunfts- und Löschanfragen vor: Sie müssen die Verläufe einer Person finden, herausgeben oder löschen können, bei sich und bei Ihren Auftragsverarbeitern. Trägt der Chatbot zu Entscheidungen mit rechtlicher Wirkung bei (Erstattung abgelehnt, Bewerbung aussortiert), verlangt Art. 22 eine echte menschliche Prüfung. Bei umfangreicher Verarbeitung oder sensiblen Daten ist eine Datenschutz-Folgenabschätzung nach Art. 35 fällig; sie ist zugleich der beste Ort, um alle Entscheidungen dieser Checkliste festzuhalten.
Eine private Wissensdatenbank als Quelle
Das größte Risiko eines Dokumenten-Chatbots liegt in der Frage, wer an die Dokumente herankommt. Bei Kopik ist eine Wissensdatenbank entweder öffentlich (im Katalog gelistet) oder privat, und eine private Datenbank ist nur für ihren Eigentümer und dessen API-Schlüssel zugänglich, über die Website, die REST-API oder den MCP-Server. Ihr Chatbot sendet die Frage mit Ihrem Schlüssel und erhält eine auf Ihren Dokumenten beruhende Antwort mit zitierten Textstellen, oder nur die passenden Textstellen, wenn Sie die Antwort selbst formulieren lassen. Mehr zu diesem Modell lesen Sie unter RAG as a Service.
Auch Kopik ist dann ein Dienstleister in Ihrer Kette: Die Checkliste gilt genauso, vom Verarbeitungsverzeichnis bis zur Auswahl der Dokumente. Die Zitate helfen bei der Rechenschaftspflicht, weil jede Antwort auf ihre Quelle verweist; wie das Erfindungen reduziert, zeigt der Beitrag KI-Halluzinationen vermeiden.
Die Dokumente Ihres Chatbots in einer privaten Datenbank
Laden Sie Richtlinien und Handbücher hoch, fragen Sie sie mit Ihrem API-Schlüssel ab und erhalten Sie Antworten mit Quellenangaben.
Die Checkliste auf einen Blick
- Personenbezogene Daten in Dokumenten, Fragen und Logs erfassen.
- Rechtsgrundlage je Zweck wählen und im Verzeichnis eintragen.
- AV-Vertrag nach Art. 28 mit jedem Dienstleister; Training und Speicherdauer prüfen.
- Nur bereinigtes Referenzmaterial indexieren, getrennt nach Zielgruppe.
- Speicherfrist für Chatverläufe festlegen und automatisieren.
- Drittlandtransfers dokumentieren.
- Zugriffe und Schlüssel absichern; Meldung binnen 72 Stunden vorbereiten.
- Datenschutzhinweis am Chatfenster anzeigen.
- Auskunft und Löschung organisieren; Menschen bei wichtigen Entscheidungen beteiligen.
- DSFA durchführen, wenn nötig, und aktuell halten.
Häufige Fragen
Braucht ein Chatbot die Einwilligung der Nutzer?
Nicht unbedingt. Die Einwilligung ist nur eine von sechs Rechtsgrundlagen. Ein Kundenservice-Chatbot stützt sich oft auf die Vertragserfüllung, ein interner Assistent auf das berechtigte Interesse. Eine Einwilligung brauchen Sie vor allem für freiwillige Zwecke wie Werbung.
Ist der Anbieter des Sprachmodells ein Auftragsverarbeiter?
In der Regel ja, wenn er in Ihrem Auftrag Anfragen mit personenbezogenen Daten verarbeitet. Dann brauchen Sie einen AV-Vertrag nach Art. 28, Klarheit über eine mögliche Nutzung zum Training, die Speicherdauer und das Übermittlungsinstrument bei Verarbeitung außerhalb der EU.
Wie lange dürfen Chatverläufe gespeichert werden?
Die DSGVO nennt keine feste Zahl. Sie legen eine dem Zweck angemessene Frist fest, etwa einige Wochen zur Fehleranalyse, dokumentieren sie und löschen oder anonymisieren danach. Eine unbegrenzte Speicherung auf Vorrat ist kaum zu rechtfertigen.
Brauche ich eine Datenschutz-Folgenabschätzung für einen KI-Chatbot?
Häufig ja, vor allem bei umfangreicher Verarbeitung von Kunden- oder Beschäftigtendaten, weil der Einsatz neuer Technologien ein Kriterium für ein hohes Risiko ist. Auch wo sie nicht zwingend ist, hilft sie, Ihre Entscheidungen nachvollziehbar zu dokumentieren.
Reicht ein Hosting in Deutschland für Datenschutzkonformität?
Nein. Es verringert Drittlandtransfers, ersetzt aber weder Rechtsgrundlage noch AV-Verträge, Datenminimierung, Speicherfristen, Sicherheit und Transparenz. Und ein Fernzugriff aus einem Drittland kann trotzdem eine Übermittlung darstellen.
Den Kopik-Newsletter abonnieren
Neue Wissensdatenbanken, RAG-Leitfäden und Produktneuheiten. Eine E-Mail alle ein bis zwei Wochen, Abmeldung mit einem Klick.
Mit dem Abonnement stimmen Sie dem Erhalt unseres Newsletters zu. Ihre Adresse wird nie weitergegeben.