Wie Sie verhindern, dass Firmendaten in ChatGPT landen

Die Datenschutzaufsichtsbehörden des Bundes und der Länder schreiben es in ihrer Orientierungshilfe zu Künstlicher Intelligenz und Datenschutz selbst: ohne klare Regelungen bestehe das Risiko, dass Beschäftigte KI-Anwendungen “eigenmächtig und unkontrolliert nutzen”, und es sei “davon auszugehen, dass dies derzeit Realität in vielen Unternehmen und Behörden ist”. Das schreibt kein Anbieter in einem Whitepaper. Das schreibt die Aufsicht über ihren eigenen Zuständigkeitsbereich.

Die Zahlen passen dazu. Laut einer Bitkom-Befragung von 604 Unternehmen ab 20 Beschäftigten ist die Nutzung privater KI-Zugänge im Job in 8 Prozent der Unternehmen weit verbreitet und in 17 Prozent kommt sie in Einzelfällen vor. Weitere 17 Prozent vermuten es, wissen es aber nicht. Regeln für den Einsatz von KI-Werkzeugen haben 23 Prozent aufgestellt, und nur 26 Prozent stellen ihren Leuten überhaupt einen eigenen Zugang bereit.

Rechnen Sie das zusammen. In vier von zehn Unternehmen ist private KI-Nutzung im Job bekannt oder wird vermutet, und in drei von vier fehlen die Regeln dazu. Man sieht es im Arbeitsalltag. Jemand lässt ChatGPT eine E-Mail formulieren, Copilot ein Stück Code prüfen oder fügt eine Kundenliste in Gemini ein, für eine schnelle Zusammenfassung. Praktisch, und fast nie böse gemeint. Trotzdem genügt ein einziges Einfügen, damit personenbezogene Daten, Zugangsdaten oder Geschäftsgeheimnisse das Unternehmen verlassen.

Dieser Artikel zeigt, was dabei tatsächlich passiert, was DSGVO, NIS2 und die KI-Verordnung dazu verlangen, und wie Sie es verhindern, ohne KI zu verbieten.

Was passiert, wenn Daten in einen KI-Chatbot geraten

Was Sie in einen Chatbot tippen, bleibt nicht im Browser. Der Text geht an die Server des Anbieters, häufig außerhalb des Europäischen Wirtschaftsraums. Dort kann er gespeichert und, je nach Tarif und Einstellung, zum weiteren Training des Modells verwendet werden. Bei den kostenlosen Verbraucherversionen ist Letzteres eher die Regel als die Ausnahme.

Genau deshalb empfiehlt die Aufsicht, für die berufliche Nutzung Geräte und Konten vom Arbeitgeber bereitzustellen, statt Beschäftigte mit privaten Zugängen arbeiten zu lassen, weil auf diesem Weg Profile zu einzelnen Personen entstehen können. Und sie empfiehlt, die Einstellungen von Anfang an so zu setzen, dass Eingaben nicht zu Trainingszwecken verarbeitet werden und keine Eingabe-Historie über die Sitzung hinaus gespeichert wird. Das ist eine überschaubare Maßnahme, die in vielen Häusern trotzdem nicht getroffen ist.

Bei Chatbots ohne EU-Bezug wird es deutlicher. Die Berliner Datenschutzbeauftragte hat DeepSeek im Juni 2025 bei Apple und Google als rechtswidrigen Inhalt gemeldet, nachdem das Unternehmen der Aufforderung nicht gefolgt war. Der Grund: die Übermittlung von Nutzerdaten nach China ist nach Artikel 46 Abs. 1 DSGVO unzulässig. Übertragen werden laut der Behörde “alle Texteingaben, Chatverläufe und hochgeladene Dateien sowie Informationen zum Standort, den benutzten Geräten und Netzwerken”. Also nicht ein Ausschnitt, sondern der gesamte Verlauf.

Und einmal gesendet, holen Sie diese Daten nicht zurück. Einen Prompt können Sie nicht widerrufen. Weil vorher niemand einen Auftragsverarbeitungsvertrag mit diesem Anbieter geschlossen hat, weiß Ihr Unternehmen formal nicht einmal, wo die Daten liegen und wie lange. Im schlechtesten Fall ist das eine meldepflichtige Datenschutzverletzung.

Welche Daten nie in einen Prompt gehören

Nicht alles ist gleich sensibel, aber ein paar Kategorien haben in einem KI-Chatbot einfach nichts zu suchen:

• Personenbezogene Daten, etwa ein Name zusammen mit Adresse, Geburtsdatum oder Telefonnummer.
• Ausweis- und Registernummern wie die Steuer-Identifikationsnummer, die Sozialversicherungsnummer oder die Personalausweisnummer.
• Kunden- und Patientenakten, Angebote und andere Unterlagen mit identifizierbaren Angaben über andere Menschen.
• Zugangsdaten und API-Schlüssel von Anbietern wie OpenAI, AWS, GitHub oder Stripe.
• Quellcode und Geschäftsgeheimnisse, die nicht öffentlich sind.
• Finanzdaten wie IBAN, Kreditkartennummern und interne Umsatzzahlen.
• Besondere Kategorien nach Artikel 9 DSGVO, also Angaben zu Gesundheit, Religion oder Gewerkschaftszugehörigkeit.

Ein Beispiel macht es greifbar. In diesem harmlos aussehenden Prompt stecken fünf Angaben, die Sie besser im Haus behalten:

Schreib eine freundliche E-Mail zur Rechnung RE-2026-0914.
Kontakt: a.weber@muster-gmbh.de, Telefon +49 151 2345678,
IBAN DE89 3704 0044 0532 0130 00, geboren am 12.03.1980.

Rechnungsnummer, E-Mail-Adresse, Telefonnummer, Bankverbindung und Geburtsdatum wandern in einem Zug auf den Server des Chatbots. Die Person wollte nur schnell eine E-Mail.

Wie groß ist das Problem wirklich?

Die Nutzung ist hoch, und die Regeln hinken hinterher. Das zeigen die Bitkom-Zahlen oben, und unsere eigene Befragung zeigt dasselbe von der anderen Seite. Wir haben dreißig IT-Verantwortliche, Sicherheitsbeauftragte und Compliance-Fachleute befragt, aus Privatwirtschaft und öffentlichem Sektor, vom Mittelstand bis zum Großunternehmen. Diese Befragung lief in den Niederlanden, die Muster darin dürften Ihnen trotzdem bekannt vorkommen:

Nur 10 Prozent haben eine technische Maßnahme wie ein DLP-Werkzeug. Und wo eine existiert, funktioniert sie oft schlecht: ebenfalls nur 10 Prozent sagen, dass ihre DLP-Lösung ordentlich arbeitet. Die bekannteste Option, Microsoft Purview, setzt eine Microsoft-365-Lizenz voraus und kostet zusätzlich, was sie für viele kleinere Organisationen aus dem Rennen nimmt.

Ob 77 Prozent für Ihr Haus zu hoch oder zu niedrig gegriffen sind, können Sie besser einschätzen als wir. Der Punkt ist ein anderer: fast alle verlassen sich auf etwas, das im Moment des Einfügens niemanden aufhält.

Was DSGVO, NIS2 und die KI-Verordnung dazu sagen

Personenbezogene Daten an einen KI-Dienst zu geben ist eine Verarbeitung im Sinne der DSGVO. Dafür brauchen Sie eine Rechtsgrundlage, Sie müssen die Datenminimierung beachten, und ein Auftragsverarbeitungsvertrag gehört dazu. Bei einem kostenlosen ChatGPT-Konto gibt es keinen solchen Vertrag, und die Daten gehen oft aus dem EWR heraus. Der DeepSeek-Fall oben zeigt, was die Aufsicht dann tut.

Wer bei Ihnen prüft, hängt vom Standort ab. In Deutschland sind die Datenschutzbehörden der Länder zuständig, in Österreich die Datenschutzbehörde. Die Vorgaben selbst unterscheiden sich nicht, weil sie aus der DSGVO kommen.

Seit dem 2. Februar 2025 gelten außerdem die Pflichten zur KI-Kompetenz aus der EU-KI-Verordnung. Organisationen müssen dafür sorgen, dass ihre Leute genug wissen, um verantwortlich mit KI umzugehen. Zu wissen, welche Daten nicht in einen Prompt gehören, fällt genau darunter.

Für Unternehmen im Anwendungsbereich von NIS2 kommt das Risikomanagement dazu. Unkontrollierte Nutzung von KI-Werkzeugen, auch Schatten-KI genannt, ist ein Risiko, das Sie erfassen und behandeln müssen. Steuern können Sie nur, was Sie sehen, und laut den Zahlen oben fehlt genau diese Sicht in den meisten Häusern.

Ein Punkt, der in Deutschland und Österreich häufig übersehen wird: die Aufsicht weist in derselben Orientierungshilfe darauf hin, dass die Einführung einer KI-Anwendung auch einen betrieblichen Mitbestimmungstatbestand erfüllen kann. Wie das mit Betriebsrat und Betriebsvereinbarung zusammenhängt, steht in unserem Artikel über das Sperren von ChatGPT.

Wie Sie es in der Praxis verhindern

Eine Richtlinie zu schreiben ist ein guter Anfang, aber ein Dokument im Ordner hält niemanden auf, wenn es darauf ankommt. Schulungen helfen, und trotzdem bleibt die Versuchung groß, schnell etwas einzufügen. Sie brauchen etwas, das im Moment selbst eingreift.

Das geht mit Erkennung, die lokal im Browser läuft. Der Prompt wird geprüft, bevor er gesendet wird. Stehen sensible Angaben darin, bekommt die Person eine Warnung und die Wahl, sie zu schwärzen oder zu ersetzen. Bei der Pseudonymisierung treten erfundene Daten an ihre Stelle, sodass der Chatbot weiter eine brauchbare Antwort gibt, ohne dass echte Daten gesendet werden.

Redactprompt ist dafür gebaut. Erkennung und Schwärzung passieren vollständig lokal, es geht also kein Text an einen externen Server. Pro Chatbot legen Sie fest, was erlaubt ist, und im Dashboard sehen Sie, woher die meisten Erkennungen kommen, ohne dass jemand die Inhalte der Prompts zu sehen bekommt.

Zwei Dinge sollten Sie dabei wissen, damit Sie nicht mit falschen Erwartungen starten. Formatbasierte Erkennung arbeitet unabhängig von Sprache und Land, also IBAN mit Prüfsummenkontrolle, Kreditkartennummern, E-Mail-Adressen, Telefonnummern, Geburtsdaten und API-Schlüssel von über 60 Anbietern. Deutsche und österreichische Ausweis- und Registernummern wie die Steuer-Identifikationsnummer, die Sozialversicherungsnummer oder die Firmenbuchnummer sind dagegen noch keine eingebaute Regel. Für diese Nummernkreise legen Sie eine eigene Regel an, das dauert wenige Minuten und gilt dann für Ihr ganzes Unternehmen.

Keine Maßnahme erwischt alles. Aber wer im Moment des Einfügens prüft, statt hinterher festzustellen, dass etwas rausgegangen ist, senkt das Risiko erheblich. Das erspart eine Menge Ärger, und im besten Fall eine meldepflichtige Datenschutzverletzung.

Sie möchten wissen, wie das für Ihr Unternehmen aussieht? Redactprompt lässt sich unverbindlich kostenlos ausprobieren, und für ein Gespräch über die Möglichkeiten für Ihr Team schreiben Sie uns.