ChatGPT DSGVO-konform im Unternehmen nutzen: Was erlaubt ist und was nicht

Die Rechtslage, praktisch erklärt

Der Kern ist schnell gesagt: Sobald personenbezogene Daten in ein KI-Werkzeug fließen, gilt die DSGVO vollständig. Personenbezogen sind nicht nur offensichtliche Dinge wie Namen und Adressen, sondern auch die Kundenmail, die Sie zur Zusammenfassung einfügen, das Bewerbungsschreiben oder das Gesprächsprotokoll.

Daraus folgt praktisch: Sie brauchen eine Rechtsgrundlage für die Verarbeitung, Sie brauchen einen Vertrag, der den Anbieter zu Ihrem Auftragsverarbeiter macht (den Auftragsverarbeitungsvertrag, kurz AVV oder englisch DPA), und Sie müssen Ihre Mitarbeitenden transparent informieren. Fehlt eines davon, ist die Nutzung angreifbar.

Die deutschen Aufsichtsbehörden haben ihre Sicht in einer Orientierungshilfe der Datenschutzkonferenz zu Künstlicher Intelligenz und Datenschutz beschrieben. Sie ist kein Gesetz, zeigt aber, worauf die Behörden schauen.

Ein zweites Regelwerk kommt hinzu: die europäische KI-Verordnung, der EU AI Act. Für die meisten Mittelständler, die ChatGPT für Büroarbeit einsetzen, ist das kein Hochrisiko-Fall und damit deutlich weniger dramatisch, als es klingt. Die praktisch relevanteste Pflicht ist die zur KI-Kompetenz: Unternehmen müssen dafür sorgen, dass Mitarbeitende, die KI einsetzen, sie auch verstehen. Die strengeren Pflichten für Hochrisiko-Systeme entwickeln sich regulatorisch noch weiter und sind für typische Büroanwendungen selten einschlägig.

Was Ihre Mitarbeiter heute schon eintippen (das Schatten-KI-Problem)

Hier liegt das eigentliche Risiko, und es ist selten das, was die Geschäftsführung vermutet. Während oben noch diskutiert wird, ob man KI einführen soll, ist sie längst da. Ihre Leute nutzen ChatGPT über private Konten auf privaten Geräten: Sie lassen Kundenmails umformulieren, Angebote glätten, Protokolle zusammenfassen. Das nennt man Schatten-KI, und sie ist der Normalfall, nicht die Ausnahme.

Das Problem daran ist konkret: Auf einem privaten ChatGPT-Konto ist die Nutzung der Eingaben zum Training der Modelle in der Regel standardmäßig aktiviert, für kostenlose wie für persönliche Bezahlkonten. Was Ihre Mitarbeitenden dort eingeben, kann also zur Verbesserung der Modelle verwendet werden, solange niemand den entsprechenden Schalter in den Einstellungen umlegt.

Die falsche Reaktion darauf ist ein Verbot. Ein Verbot treibt die Nutzung nur tiefer in den Schatten, auf noch schlechter kontrollierte private Konten. Die richtige Reaktion ist, die Nutzung ans Licht zu holen: einen sicheren, freigegebenen Weg anbieten und klare Regeln dafür aufstellen.

Konkrete Regeln für eine KI-Richtlinie

Eine gute KI-Richtlinie ist kurz, verständlich und beantwortet vier Fragen. Sie ersetzt das diffuse Bauchgefühl durch klare Leitplanken.

• Welche Zugänge sind freigegeben, welche nicht? Legen Sie fest, welches Werkzeug in welcher Version genutzt werden darf. Private Gratiskonten für dienstliche Inhalte gehören in der Regel auf die Nicht-Liste.
• Welche Datenklassen dürfen eingegeben werden, welche nicht? Das ist das Herzstück. Eine einfache Ampel hilft: Grün für unkritische Inhalte, Gelb für Internes mit Vorsicht, Rot für alles, was klar verboten ist, etwa Gesundheitsdaten, Bewerberdaten, Passwörter oder Geschäftsgeheimnisse in einem ungesicherten Zugang.
• Wer ist verantwortlich, und was passiert bei einem Fehler? Benennen Sie eine Ansprechperson und machen Sie klar, dass ein versehentlicher Fehleintrag gemeldet und nicht verschwiegen werden soll. Eine Fehlerkultur schützt besser als jede Drohung.
• Wie wird geprüft, bevor etwas rausgeht? Das Grundprinzip: Die KI entwirft, ein Mensch gibt frei. Kein KI-generierter Text geht ungelesen an einen Kunden.

Halten Sie die Richtlinie auf ein bis zwei Seiten. Eine Richtlinie, die niemand liest, schützt niemanden.

DSGVO-konforme Zugänge und Einstellungen

Die gute Nachricht: Es gibt mehrere Wege, ChatGPT und vergleichbare Werkzeuge rechtssicher zu betreiben. Welcher passt, hängt davon ab, wie sensibel Ihre Daten sind und wie viel Kontrolle Sie wollen.

Geschäftliche ChatGPT-Zugänge (Business und Enterprise): Anders als bei den privaten Konten werden bei den geschäftlichen Varianten die Eingaben standardmäßig nicht fürs Training verwendet. OpenAI stellt für die kostenpflichtigen Geschäftsprodukte einen Auftragsverarbeitungsvertrag bereit, der die Anforderungen aus Artikel 28 DSGVO abdeckt und Standardvertragsklauseln für den Datentransfer enthält. Die Enterprise-Variante bietet zusätzlich Protokollierung und konfigurierbare Aufbewahrungsfristen. Für viele Mittelständler ist das der schnellste seriöse Einstieg, wobei ein Standardvertrag nie die eigene Prüfung ersetzt, ob Ihr konkreter Einsatz sauber ist.

Azure OpenAI Service von Microsoft: Wer die Modelle von OpenAI mit stärkerer Datenkontrolle nutzen will, kann sie über Microsofts Azure-Plattform betreiben. Hier lässt sich der Betrieb auf europäische und teils deutsche Rechenzentren begrenzen. Der Auftragsverarbeitungsvertrag mit Microsoft wird über das Azure-Portal geschlossen und deckt Artikel 28 DSGVO ab; Ein- und Ausgaben werden nicht zum Training der Modelle genutzt. Das ist der übliche Weg für Unternehmen mit höheren Anforderungen an die Datenhoheit.

Europäische Anbieter: Wer US-Anbieter grundsätzlich vermeiden will, findet in Europa zunehmend praxistaugliche Alternativen mit Datenverarbeitung in der EU, etwa Mistral AI aus Frankreich, dazu spezialisierte, datenschutznativ aufgestellte Plattformen für Unternehmen. Prüfen Sie vor einer Entscheidung den aktuellen Produktstand und die vertraglichen Zusagen des jeweiligen Anbieters.

Die wichtigste Einstellung, wenn es doch ein privates Konto sein muss: Falls in einer Übergangszeit noch persönliche Konten im Einsatz sind, ist der erste Handgriff, in den Einstellungen unter den Datenkontrollen die Option zur Modellverbesserung abzuschalten. Das stoppt die künftige Trainingsnutzung, wirkt aber nicht rückwirkend auf bereits eingegebene Inhalte. Es ist eine Notlösung, kein Ersatz für einen geschäftlichen Zugang mit AVV.

Muster-Checkliste: ChatGPT DSGVO-konform einsetzen

Diese Liste ist ein Startpunkt für Ihr Review, keine abschließende Rechtsprüfung.

• Geschäftlichen Zugang gewählt: Business, Enterprise, Azure OpenAI oder einen EU-Anbieter, keine privaten Konten für dienstliche Inhalte.
• Auftragsverarbeitungsvertrag (AVV bzw. DPA) abgeschlossen und dokumentiert.
• Trainingsnutzung geklärt: bei geschäftlichen Zugängen standardmäßig aus, bei etwaigen privaten Restkonten den Opt-out gesetzt.
• Rechtsgrundlage bestimmt für die Verarbeitung personenbezogener Daten.
• KI-Richtlinie erstellt, mit Ampel für Datenklassen, klaren Zugängen und einer verantwortlichen Person.
• Rote Linien definiert: keine Gesundheits-, Bewerber- oder besonders sensiblen Daten in ungesicherte Zugänge.
• Mitarbeitende informiert und geschult, was zugleich die KI-Kompetenz-Pflicht des AI Act erfüllt.
• Freigabeprinzip verankert: Die KI entwirft, ein Mensch gibt frei.
• Verarbeitungsverzeichnis ergänzt und, wo nötig, eine Datenschutz-Folgenabschätzung geprüft.
• Datenschutzbeauftragte einbezogen und die Bewertung dokumentiert.

Fazit

ChatGPT im Unternehmen ist keine Ja-oder-Nein-Frage, sondern eine Wie-Frage. Das größte Risiko ist nicht die bewusste, geregelte Nutzung, sondern die ungeregelte Schatten-KI, die längst läuft. Wer einen sicheren Zugang anbietet, eine klare Richtlinie schreibt und das Freigabeprinzip lebt, holt die Nutzung ans Licht und macht sie steuerbar. Das ist in wenigen Wochen machbar, und es ist deutlich billiger als der erste ernste Vorfall.

Und noch einmal, weil es wichtig ist: Das hier ersetzt keine Rechtsberatung. Nutzen Sie es, um vorbereitet in das Gespräch mit Ihrem Datenschutzbeauftragten zu gehen.