Zum Inhalt springen
caadoo
en

ChatGPT datenschutzkonform nutzen: Checkliste zur DSGVO

Bevor eine Firma ChatGPT für alle freigibt, fragt meist jemand nach dem Datenschutz. Hier steht, welche Tarife einen Auftragsverarbeitungsvertrag haben, was mit den Eingaben passiert, wo die Daten liegen und welche Pflichten nach der DSGVO bei Ihnen bleiben.

Von T. Krause10 Min. Lesezeit

Die Geschäftsführung hat entschieden, dass die Leute ChatGPT nutzen dürfen, und die Office-Managerin soll die Lizenzen bestellen. Dann schreibt der externe Datenschutzbeauftragte zurück, er brauche vorher den Auftragsverarbeitungsvertrag, einen Eintrag im Verarbeitungsverzeichnis und eine Einschätzung zur Folgenabschätzung. Wer ChatGPT datenschutzkonform nutzen will, steht genau hier. Für die DSGVO im Unternehmen zählen der Vertrag mit OpenAI, der Weg der Daten und das, was Ihre Firma selbst aufgeschrieben hat.

Dieser Artikel ist keine Rechtsberatung. Er sortiert die Fragen, die eine Firma mit 20 bis 250 Leuten vor der Freigabe klären sollte, und nennt zu jeder die Quelle. Was Ihre Leute in das Werkzeug tippen dürfen, regelt ein eigenes Dokument, die KI-Richtlinie. Hier geht es um das, was die Firma selbst erledigen muss. Alle Angaben zu OpenAI habe ich am 16. Oktober 2026 auf den Seiten von OpenAI geprüft. Die ändern sich oft, lesen Sie also vor der Bestellung selbst nach.

Foto: Unsplash

Privatkonto oder Firmenarbeitsbereich

Einen Auftragsverarbeitungsvertrag gibt es nur in den Firmentarifen. Auf der Seite zum Enterprise-Datenschutz nennt OpenAI dafür ChatGPT Business, ChatGPT Enterprise und die API, und das Formular für den Vertrag ist dort verlinkt. Wer mit Free, Go, Plus oder Pro arbeitet, bekommt keinen. In diesen Tarifen tritt OpenAI Ireland Limited laut der europäischen Datenschutzerklärung von OpenAI selbst als Verantwortlicher auf.

Setzt also eine Mitarbeiterin ein Plus-Konto für die Arbeit ein und tippt Kundendaten hinein, gibt Ihre Firma diese Daten an einen Anbieter weiter, mit dem sie keinen Vertrag nach Art. 28 DSGVO hat. Die Datenschutzkonferenz, kurz DSK, ist das gemeinsame Gremium der deutschen Aufsichtsbehörden. Sie empfiehlt in ihrer Orientierungshilfe "Künstliche Intelligenz und Datenschutz" vom 6. Mai 2024 unter Randnummer 41, dass Arbeitgeber für die berufliche Nutzung Geräte und Konten stellen. Beschäftigte sollen nicht mit privaten Konten arbeiten müssen.

Wie Sie herausfinden, wie viele private Konten bei Ihnen schon für die Arbeit laufen, steht im Artikel über Schatten-KI.

Im Auftragsverarbeitungsvertrag von OpenAI lohnt ein Blick auf Abschnitt 2.9. Dort erteilen Sie eine allgemeine Genehmigung für die Unterauftragsverarbeiter aus einer veröffentlichten Liste, und gegen neue Einträge können Sie innerhalb von 30 Tagen nach der Mitteilung widersprechen. Vertragspartner ist für Kunden mit Sitz im EWR oder in der Schweiz OpenAI Ireland Ltd. Legen Sie die Fassung vom 1. Januar 2026 dort ab, wo Ihr Datenschutzbeauftragter sie findet.

Training: was mit den Eingaben passiert

In den Tarifen für Einzelpersonen darf OpenAI die Inhalte zum Training verwenden. So steht es im Hilfeartikel How your data is used to improve model performance. Abschalten lässt sich das in den Einstellungen unter den Datenkontrollen, mit dem Schalter, den der Hilfeartikel "Improve the model for everyone" nennt, oder im Privacy Portal von OpenAI. Eine Lücke bleibt. Bewertet jemand eine Antwort mit Daumen hoch oder runter, darf OpenAI das ganze Gespräch zum Training verwenden, auch nach dem Opt-out. Temporäre Chats nutzt OpenAI laut seinen Hinweisen zu den Datenkontrollen nicht zum Training, bewahrt sie aber bis zu 30 Tage auf.

In ChatGPT Business und Enterprise ist das Training standardmäßig aus. Bewertungen mit dem Daumen ändern daran nach Angabe von OpenAI nichts, und Administratoren können die Bewertungsfunktion für den ganzen Arbeitsbereich abschalten.

Die DSK hält in Randnummer 24 Anwendungen für vorzugswürdig, die Ein- und Ausgaben nicht zum Training verwenden. In Randnummer 43 empfiehlt sie, Firmenkonten von Anfang an so einzustellen, dass keine Eingaben ins Training gehen. Im Business-Arbeitsbereich ist das schon die Voreinstellung. Bei Privatkonten hängt es am Schalter jeder einzelnen Person.

Wo die Daten liegen und wie sie den EWR verlassen

Eine Speicherung in Europa, im EWR und der Schweiz, bietet OpenAI laut seinem Hilfeartikel zur Datenresidenz berechtigten API-Kunden und neuen Kunden von ChatGPT Enterprise und Edu an. Für Enterprise und Edu lässt sich zusätzlich festlegen, dass auch die Berechnung der Antworten in Europa läuft. ChatGPT Business nennt der Artikel dabei nicht. Auch mit Datenresidenz können einzelne Daten außerhalb der Region liegen, etwa Anmeldedaten, Abrechnungsdaten, Metadaten des Arbeitsbereichs und alles, was über Websuche oder angeschlossene Apps läuft.

Ohne Datenresidenz können Daten den EWR verlassen. Der Auftragsverarbeitungsvertrag regelt das in Abschnitt 4.1. OpenAI Ireland gibt Daten aus dem EWR an Konzerngesellschaften oder Dritte außerhalb des EWR auf Grundlage von Standardvertragsklauseln weiter oder auf Grundlage eines Angemessenheitsbeschlusses der EU-Kommission nach Art. 45 DSGVO. Für die USA ist das der Beschluss (EU) 2023/1795 zum EU-US Data Privacy Framework. Er gilt laut Übersicht der EU-Kommission nur für Unternehmen, die am Framework teilnehmen. Ob ein bestimmter Empfänger dabei ist, zeigt die Liste auf dataprivacyframework.gov. Drittland und Grundlage der Übermittlung gehören später in Ihr Verarbeitungsverzeichnis.

ChatGPT im Unternehmen: was die DSGVO von Ihnen verlangt

Mit dem Vertrag ist die Arbeit auf der Seite von OpenAI geregelt. Die Pflichten Ihrer Firma bleiben. Ich gehe sie in der Reihenfolge durch, in der sie bei einer Einführung meist anfallen.

  1. Zweck festlegen. Schreiben Sie auf, wofür ChatGPT bei Ihnen eingesetzt wird, etwa für Angebotstexte oder Lieferantenmails auf Englisch. Die DSK nennt diese Festlegung in Randnummer 1 elementar, weil sich nur an einem Zweck prüfen lässt, welche Daten nötig sind. Für jede Verarbeitung personenbezogener Daten brauchen Sie außerdem eine Rechtsgrundlage, so Randnummer 9.
  2. Datenschutzbeauftragten einbinden. Nach § 38 BDSG muss eine Firma eine Datenschutzbeauftragte benennen, wenn in der Regel mindestens 20 Personen ständig mit der automatisierten Verarbeitung personenbezogener Daten beschäftigt sind. Die DSK rät in Randnummer 31, sie bei jeder Entscheidung über KI-Anwendungen einzubinden.
  3. Den Auftragsverarbeitungsvertrag abschließen. Art. 28 Abs. 3 DSGVO verlangt ihn, sobald ein Anbieter Daten in Ihrem Auftrag verarbeitet. Bei KI aus der Cloud liegt nach Randnummer 32 der DSK häufig genau dieses Verhältnis vor.
  4. Ins Verarbeitungsverzeichnis eintragen. Art. 30 DSGVO verlangt Zweck, Kategorien von Daten und Betroffenen, Empfänger, Übermittlungen in Drittländer und Löschfristen. Firmen unter 250 Beschäftigten sind nach Absatz 5 ausgenommen, aber nur, wenn die Verarbeitung kein Risiko birgt, nur gelegentlich erfolgt und keine besonderen Kategorien wie Gesundheitsdaten enthält. Ein Werkzeug, das täglich im Einsatz ist, läuft nach meiner Lesart nicht gelegentlich. Diese Ausnahme soll sich ändern: Im Verfahren 2025/0130(COD) haben sich Parlament und Rat am 26. Juni 2026 auf einen Text geeinigt. Angenommen ist er am 16. Oktober 2026 noch nicht, die Abstimmung im Plenum des Parlaments ist für den 23. November 2026 vorgesehen.
  5. Prüfen, ob eine Folgenabschätzung nötig ist. Art. 35 Abs. 1 DSGVO verlangt eine Datenschutz-Folgenabschätzung, wenn eine Verarbeitung, besonders mit neuen Technologien, voraussichtlich ein hohes Risiko für die Betroffenen hat. Die DSK schreibt in Randnummer 39, dass das beim Einsatz von KI vielfach der Fall sein wird, und verweist auf ihre Muss-Liste. Machen Sie mindestens die Vorabprüfung und schreiben Sie das Ergebnis auf. Fällt sie positiv aus, verlangt § 38 BDSG eine Datenschutzbeauftragte unabhängig von der Zahl der Beschäftigten. In Abschnitt 2.6 des Auftragsverarbeitungsvertrags sagt OpenAI zu, bei der Folgenabschätzung angemessen zu helfen.
  6. Betroffene informieren. Ihre Leute müssen nach Art. 13 DSGVO wissen, zu welchem Zweck und auf welcher Rechtsgrundlage ihre Nutzungsdaten verarbeitet werden, wer sie erhält und wie lange sie gespeichert werden. Geben Sie Kundendaten in ChatGPT ein, sind nach Randnummer 48 der DSK auch die Kunden transparent zu informieren. Prüfen Sie, ob Ihre Datenschutzhinweise für Kunden das abdecken.
  7. Den Arbeitsbereich einstellen. Prüfen Sie, dass das Training aus ist, und legen Sie die Aufbewahrung fest. In ChatGPT Business bestimmen die Administratoren, wie lange Gespräche gespeichert bleiben. Gelöschte und nicht gespeicherte Gespräche entfernt OpenAI nach eigener Angabe innerhalb von 30 Tagen, es sei denn, ein Gesetz verlangt eine längere Aufbewahrung oder OpenAI hält sie zum Schutz seiner Dienste für nötig. Eine kurze Frist passt für Gespräche, in denen Ihre Leute Texte entwerfen, denn nicht abgesandte Entwürfe müssen Sie laut BMF-Schreiben zu den GoBD nicht aufbewahren. Landen dagegen Rechnungen oder andere steuerrelevante Unterlagen in ChatGPT, gelten zusätzlich die GoBD-Anforderungen an einen Chatbot.
  8. Den Betriebsrat beteiligen, wo es einen gibt. Bei ChatGPT Business können Administratoren laut OpenAI die Gespräche der Mitglieder ansehen, exportieren und löschen. Was daraus für die Mitbestimmung folgt und in welcher Reihenfolge Sie vorgehen, steht im Artikel über Betriebsrat und KI-Assistent.
  9. Eine Regel für die Leute. Die DSK empfiehlt in Randnummer 36 dokumentierte interne Weisungen mit konkreten Beispielen, was erlaubt ist und was nicht. In Randnummer 49 warnt sie, dass das Streichen von Namen regelmäßig nicht reicht, weil sich der Personenbezug aus dem Zusammenhang ergeben kann. Ein Muster mit zehn Klauseln zum Kopieren steht im Artikel KI-Richtlinie im Unternehmen erstellen.

Für angeschlossene Apps gilt die Datenresidenz nicht, auch nicht bei Enterprise. Das wird wichtig, sobald jemand ChatGPT mit dem Firmenlaufwerk verbinden möchte. Dann sieht das Werkzeug, was die Ordnerrechte der jeweiligen Person hergeben, und diese Rechte prüfen Sie vor der Freischaltung. Das Vorgehen beschreibt der Artikel über den KI-Assistenten für Firmenwissen. Wer statt ChatGPT Microsoft 365 Copilot einführt, hat dieselbe Aufgabe in SharePoint, OneDrive und Teams. Die Schritte dafür stehen in der Checkliste zur Einführung von Microsoft 365 Copilot.

Ein Hinweis zu den Antworten selbst. Die europäischen Datenschutzbehörden schreiben in ihrem Bericht der ChatGPT-Taskforce vom 23. Mai 2024, dass das Modell auch erfundene Angaben erzeugen kann und Nutzer sie trotzdem oft für zutreffend halten. Was ChatGPT über eine Person schreibt, prüft also ein Mensch, bevor es in eine Akte oder eine Mail an den Kunden geht.

Fangen Sie mit einer Bestandsaufnahme an: Wer arbeitet heute mit welchem Konto? Die Antwort zeigt, wie dringend der Firmentarif ist, und liefert die ersten Zeilen für das Verarbeitungsverzeichnis. Wollen Sie statt ChatGPT einen eigenen Chatbot auf die Website stellen, finden Sie den Prüfplan unter DSGVO-konformen Chatbot testen.

caadoo richtet im Abo den Arbeitsbereich ein, stellt Training, Aufbewahrung und Bewertungen ein, bereitet den Eintrag fürs Verzeichnis vor und schult die Leute. Die rechtliche Prüfung bleibt bei Ihrem Datenschutzbeauftragten. Wenn Ihre Bestellung gerade an einer dieser Fragen hängt, schreiben Sie mir, an welcher.

Häufige Fragen

Ist ChatGPT DSGVO-konform?

Das lässt sich für das Produkt allein nicht beantworten. Entscheidend ist, wie Ihre Firma es einsetzt. Mit ChatGPT Business oder Enterprise bekommen Sie einen Auftragsverarbeitungsvertrag, und das Training mit Ihren Daten ist standardmäßig aus. Verzeichnis, Information der Betroffenen, die Prüfung einer Folgenabschätzung und eine Regel für die Leute bleiben Ihre Aufgabe. Mit privaten Konten für die Arbeit fehlt schon der Vertrag.

Brauche ich für ChatGPT einen Auftragsverarbeitungsvertrag?

Ja, sobald Ihre Leute personenbezogene Daten eingeben, und das passiert schneller, als man denkt, etwa mit einer weitergeleiteten Kundenmail. Art. 28 DSGVO verlangt dann einen Vertrag. OpenAI schließt ihn nach eigener Angabe für ChatGPT Business, ChatGPT Enterprise und die API ab, über ein Formular auf der Seite zum Enterprise-Datenschutz.

Darf man personenbezogene Daten in ChatGPT eingeben?

In einem Firmenarbeitsbereich mit Vertrag, mit Rechtsgrundlage und einem dokumentierten Zweck ist das möglich. In ein privates Konto gehören sie nicht. Gesundheitsdaten und andere besondere Kategorien nach Art. 9 DSGVO setzen Sie auf die Verbotsliste. Die DSK weist darauf hin, dass ein gestrichener Name nicht reicht, wenn sich die Person aus dem Zusammenhang erkennen lässt.

Speichert ChatGPT Daten in der EU?

Auf Wunsch, aber nicht in jedem Tarif. Eine Speicherung im EWR und der Schweiz bietet OpenAI berechtigten API-Kunden und neuen Kunden von ChatGPT Enterprise und Edu an. Für ChatGPT Business nennt der Hilfeartikel zur Datenresidenz diese Option nicht. Ohne Datenresidenz können Daten den EWR verlassen, laut Auftragsverarbeitungsvertrag auf Grundlage von Standardvertragsklauseln oder eines Angemessenheitsbeschlusses.

Themen

  • ChatGPT
  • DSGVO
  • Datenschutz
  • Auftragsverarbeitung
  • Mittelstand
Alle Artikel

Weiterlesen

  • 16 Min. Lesezeit

    Betriebsrat und KI-Assistent: Wann er mitbestimmt und was in die Vereinbarung gehört

    Über einen internen KI-Assistenten müssen Sie den Betriebsrat schon in der Planung unterrichten, und erfasst das Werkzeug die Nutzung pro Person, spricht vieles für seine Mitbestimmung. Hier steht, wann das gilt, in welcher Reihenfolge eine Firma mit 20 bis 250 Leuten vorgeht und was in die Betriebsvereinbarung KI gehört.

  • 8 Min. Lesezeit

    Was KI-Automatisierung kostet und wovon es abhängt

    Auf die Frage, was KI-Automatisierung kostet, gibt es meist eine Zahl ohne Prozess oder ein Achselzucken. Hier steht, welche Posten den Preis bestimmen, was Sie bei Projekt, Plattform und Abo jeweils bezahlen und welche Fragen Sie vor dem Kauf stellen sollten.

Ende des Anrufs

Sie dürfen jetzt auflegen.

Oder Sie buchen 15 Minuten. Ich stelle Ihnen die Fragen, die ich am Telefon stellen würde, und sage Ihnen am Ende, ob es passt. Wenn nicht, haben wir beide eine Viertelstunde verloren und keinen Monat.

Oder rufen Sie an. Gerne auch kalt. Meine KI-Assistentin nimmt ab, und ich rufe zurück. +49 5136 9414999

Statistik

Mit Ihrer Zustimmung messe ich mit Google Analytics, welche Seiten gelesen werden. Ohne Zustimmung lädt kein Analyse-Code. Ihre Antwort speichere ich lokal in Ihrem Browser.

Datenschutzerklärung