Darf ich ein Dokument mit personenbezogenen Daten in einen Chatbot laden, wenn der Anbieter unter dem Data Privacy Framework zertifiziert ist?

Die Zertifizierung liefert ein Übermittlungsinstrument für diese Stelle, mehr nicht. Sie brauchen weiterhin eine Rechtsgrundlage, einen AV-Vertrag, wenn der Anbieter in Ihrem Auftrag handelt, die Wahrung des Berufsgeheimnisses und Klarheit darüber, ob die Daten zu anderen Zwecken genutzt werden.

Reicht es, Verlauf oder Training im Chatbot zu deaktivieren?

Das senkt das Risiko, aber Anbieter können Daten aus Sicherheitsgründen eine Zeit lang aufbewahren, und Einstellungen hängen oft vom einzelnen Konto ab. Für vertrauliche Unterlagen ist es verlässlicher, nur anonymisierten Text zu senden oder in einer Umgebung mit AV-Vertrag zu arbeiten.

Bin ich nach einer Pseudonymisierung aus der DSGVO heraus?

Nein. Pseudonymisierte Daten bleiben personenbezogen für jeden, der sie zurückführen kann. Die Pseudonymisierung reduziert aber stark, was beim Dritten ankommt. Muss das Dokument ohne Rückweg zur Person die eigene Kontrolle verlassen, ist eine irreversible Anonymisierung nötig.

Verbietet die KI-Verordnung Chatbots am Arbeitsplatz?

Nein. Sie verlangt unter anderem KI-Kompetenz der Beschäftigten, die KI nutzen, und regelt bestimmte Hochrisiko-Anwendungen. Für die eingegebenen Daten gelten weiterhin DSGVO und BDSG.

Eigene KI oder externe KI für vertrauliche Dokumente

Was genau wird verglichen?

Variante A, eigene oder in der EU gehostete KI: Das Modell, das das Dokument liest (etwa um personenbezogene Daten zu erkennen), läuft auf eigenen Servern oder bei einem Anbieter in der Europäischen Union und gibt den Inhalt nicht weiter. Der Anbieter ist Auftragsverarbeiter mit Vertrag und bekannter Liste von Unterauftragsverarbeitern.

Variante B, externe generative KI: Der vollständige Text geht an einen Drittdienst, ob Verbraucher-Chatbot, Unternehmensversion oder API. Was danach passiert, regeln die Bedingungen des Anbieters: Verarbeitungsort, Speicherdauer, mögliche menschliche Überprüfung und Nutzung zur Verbesserung der Modelle.

Vorsicht vor Schlagworten: Cloud heißt nicht automatisch Risiko. Auch ein europäisches SaaS ist Cloud. Entscheidend ist, wer die Daten wo, auf welcher vertraglichen Grundlage und zu welchen Zwecken verarbeitet.

Drittlandtransfer: Kapitel V DSGVO

Die DSGVO erlaubt Übermittlungen außerhalb des EWR nur auf Grundlage eines Angemessenheitsbeschlusses (Art. 45), geeigneter Garantien wie Standardvertragsklauseln (Art. 46) oder, eng auszulegen, der Ausnahmen des Art. 49. Wer ein Dokument an einen Dienst schickt, dessen Verarbeitung oder Support in einem anderen Land sitzt, übermittelt womöglich in ein Drittland, auch wenn es sich nicht so anfühlt.

Für die USA gilt seit dem 10. Juli 2023 der Durchführungsbeschluss (EU) 2023/1795 zum EU-US Data Privacy Framework. Er deckt Übermittlungen an US-Organisationen ab, die sich selbst zertifiziert haben und auf der offiziellen Liste des US-Handelsministeriums stehen. Ist die konkrete empfangende Stelle nicht zertifiziert, braucht es ein anderes Instrument, meist Standardvertragsklauseln mit Transfer-Folgenabschätzung. Der Rahmen wurde vor den EU-Gerichten angegriffen; die weitere Entwicklung sollte man verfolgen.

Ein Anbieter, der „Verarbeitung in der EU“ zusagt, ist ein guter Anfang. Fragen Sie trotzdem nach Fernzugriffen für Support aus Drittländern und nach den eingesetzten Unterauftragsverarbeitern.

Auftragsverarbeitung, Speicherdauer und Nutzung Ihrer Daten

Lässt eine Organisation personenbezogene Daten von einem externen Dienst in ihrem Auftrag verarbeiten, ist dieser Auftragsverarbeiter, und Art. 28 DSGVO verlangt einen Vertrag: dokumentierte Weisungen, Vertraulichkeit des Personals, Sicherheit nach Art. 32, Regeln für Unterauftragsverarbeiter, Löschung oder Rückgabe am Ende.

Verbraucherversionen vieler Chatbots laufen unter Bedingungen für Privatpersonen; der Anbieter kann sich eigene Nutzungen der Eingaben vorbehalten. Unternehmensversionen und APIs bieten meist einen Auftragsverarbeitungsvertrag an, aber verlassen Sie sich nicht darauf: Prüfen Sie die Bedingungen des Anbieters, bevor Sie etwas hochladen.

Werden Eingaben und Dateien zum Training oder zur Verbesserung von Modellen genutzt? Lässt sich das abschalten, und auf welcher Ebene?
Wie lange werden Unterhaltungen, Dateien und Protokolle gespeichert, auch zur Missbrauchserkennung?
In welchen Ländern wird verarbeitet, und von wo ist Supportzugriff möglich?
Gibt es einen unterzeichneten AV-Vertrag und eine aktuelle Liste der Unterauftragsverarbeiter?
Wer in Ihrer Organisation hat ein Konto, mit welchen Einstellungen, und wer kontrolliert sie?

Vertraulichkeit und Berufsgeheimnis

Für Anwältinnen, Ärzte und andere Berufsgeheimnisträger stellt § 203 StGB die unbefugte Offenbarung fremder Geheimnisse unter Strafe. Die Einbindung externer Dienstleister ist nur unter engen Voraussetzungen zulässig, unter anderem mit Verpflichtung zur Verschwiegenheit. Einen Schriftsatz mit Mandantendaten in einen Verbraucher-Chatbot zu kopieren, ist eine Offenbarung an Dritte, auch wenn nichts leakt. Zudem ist nicht alles Schutzwürdige personenbezogen: Prozessstrategie, Angebote oder Geschäftsgeheimnisse gehören ebenfalls nicht in fremde Hände.

Die Datenschutzkonferenz (DSK) hat am 6. Mai 2024 eine Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ veröffentlicht. Sie richtet sich an Unternehmen und Behörden, die KI-Anwendungen einsetzen, legt den Schwerpunkt auf große Sprachmodelle und Chatbots und beschreibt Kriterien für Auswahl und datenschutzkonformen Einsatz, etwa die Frage, ob Eingaben zum Training verwendet werden.

Die KI-Verordnung, kurz eingeordnet

Die Verordnung (EU) 2024/1689 ist am 1. August 2024 in Kraft getreten und gilt gestaffelt: verbotene Praktiken und die Pflicht zur KI-Kompetenz (Art. 4) seit dem 2. Februar 2025, Pflichten für KI-Modelle mit allgemeinem Verwendungszweck seit dem 2. August 2025, der Rest später. Sie ersetzt die DSGVO nicht. Wer einen Chatbot zum Zusammenfassen nutzt, wird dadurch nicht Anbieter eines Hochrisiko-Systems, muss aber Beschäftigte schulen und festlegen, wofür das Werkzeug genutzt werden darf.

Vergleichstabelle

Typische Unterschiede; die konkreten Anbieterbedingungen immer prüfen
Kriterium	Eigene oder in der EU gehostete KI	Externe generative KI (Chatbot oder API)
Verarbeitungsort des Textes	Eigene Server oder Server des Anbieters in der EU	Laut Anbieter; ggf. auch Drittländer
Drittlandtransfer	In der Regel keiner, wenn Support und Unterauftragnehmer im EWR sind	Möglich; Angemessenheit (DPF) oder Klauseln nötig
Vertrag nach Art. 28	AV-Vertrag mit klaren Weisungen	Bei Unternehmens- oder API-Tarifen; bei Verbraucherversionen oft nicht
Nutzung für Training	Nein, wenn vertraglich ausgeschlossen	Abhängig von Tarif und Einstellungen
Speicherdauer	Nach Vertrag und eigener Richtlinie	Nach Vorgaben des Anbieters, inkl. Sicherheitsprotokolle
Berufsgeheimnis	Dokument bleibt im vereinbarten Rahmen	Offenbarung an Dritte, die gerechtfertigt sein muss
Texterstellung, Zusammenfassen	Auf die Funktionen des Werkzeugs beschränkt	Sehr leistungsfähig und vielseitig
Einstieg	Spezialisiertes Werkzeug beschaffen oder betreiben	Sofort, mit einem Konto

Wann welche Variante passt

Eigene oder in der EU gehostete KI: Dokumente mit Daten von Mandanten, Patientinnen, Beschäftigten oder Bürgern; Akten unter Berufsgeheimnis; große, wiederkehrende Mengen; Bedarf an Nachvollziehbarkeit und Audit-Protokoll.
Externe generative KI: Texte ohne personenbezogene oder vertrauliche Inhalte, allgemeine Entwürfe, Vorlagen, Übersetzungen öffentlicher Unterlagen oder bereits anonymisierte Dokumente.
Kombination: zuerst mit einem Werkzeug, das die Daten in der EU hält, anonymisieren oder pseudonymisieren, dann den Chatbot nur mit der bereinigten Fassung nutzen.

Der dritte Weg ist für viele Teams der praktikabelste; wir beschreiben ihn unter Dokumente vor der Nutzung von ChatGPT anonymisieren. Denken Sie daran: Pseudonymisierte Daten bleiben für den, der die Zuordnung kennt, personenbezogen (Erwägungsgrund 26 DSGVO). Prüfen Sie also, ob Pseudonymisierung genügt oder ob irreversibel anonymisiert werden muss.

Anonimatum folgt Variante A: Es erkennt personenbezogene Daten mit eigener KI auf Servern in der Europäischen Union, ohne den Text an externe Sprachmodell-APIs zu senden, kombiniert KI mit Mustern und lässt jeden Vorschlag vor dem Anwenden prüfen. Wo Dokumente verarbeitet werden und was gespeichert wird, steht auf der Seite Sicherheit und Datenschutz; Vor- und Nachteile beider Wege zeigt manuelle oder automatische Anonymisierung.

Eigene KI in der EU oder externe generative KI: Was sich bei Dokumenten mit personenbezogenen Daten ändert