ChatGPT DSGVO: Darf ich Kunden-E-Mails mit KI beantworten?

Ja, du kannst Kunden-E-Mails und Angebote mit ChatGPT beantworten, wenn der Rahmen stimmt. Prüf zuerst, ob dein Betrieb den eingesetzten Account und die Verarbeitung der Kundendaten freigegeben hat. Bevor du Kundenmails mit KI verarbeitest, brauchst du für die Verarbeitung eine Rechtsgrundlage und musst unter anderem Informationspflichten, Betroffenenrechte, Datensicherheit und mögliche Drittlandtransfers prüfen. Ein Firmenaccount, ein erforderlicher Auftragsverarbeitungsvertrag und ausgeschaltete Trainingsnutzung sind wichtige Bausteine, ersetzen diese Prüfung aber nicht. Dazu kommt seit 2025 der AI Act, nach dem du Maßnahmen zur Förderung der KI-Kompetenz in deinem Team ergreifen musst. In diesem Ratgeber gehe ich das Schritt für Schritt durch, damit du am Ende weißt, was du konkret einstellen und abschließen musst.

Das Wichtigste in Kürze

• Für die Verarbeitung von Kundenmails mit KI brauchst du eine Rechtsgrundlage und musst Informationspflichten und Betroffenenrechte prüfen; ein Firmenaccount statt privater Accounts ist dafür ein wichtiger Baustein, aber kein Freibrief.
• Ein externer Cloud-KI-Anbieter ist laut Datenschutzkonferenz in der Regel dein Auftragsverarbeiter, also brauchst du einen Vertrag nach Art. 28 Abs. 3 DSGVO.
• Anwendungen, die deine Eingaben und Ausgaben nicht zum Training nutzen, sind datenschutzrechtlich vorzuziehen; bei ChatGPT Business, Enterprise und der API ist das laut OpenAI standardmäßig so.
• Seit 2. Februar 2025 musst du nach Art. 4 AI Act Maßnahmen zur Förderung der KI-Kompetenz ergreifen, ab 2. August 2026 wird sie beaufsichtigt und durchgesetzt; ein Zertifikat brauchst du dafür nicht.
• Die KI schreibt den Entwurf, du gibst frei: Preise und Zusagen gehen nie ungeprüft an den Kunden.

Darf ich Kunden-E-Mails überhaupt mit ChatGPT beantworten?

Grundsätzlich ja, denn die DSGVO verbietet dir nicht, ein Werkzeug für deine Korrespondenz zu benutzen, sie regelt nur, wie du mit den personenbezogenen Daten darin umgehst. Und genau da liegt der Haken, weil eine Kunden-E-Mail fast immer personenbezogene Daten enthält: den Namen, die Mailadresse, oft eine Telefonnummer, eine Anschrift, eine Bestellnummer oder sogar Details zur Situation des Kunden. Sobald du so eine Mail in ChatGPT kopierst, gibst du diese Daten an einen externen Anbieter weiter.

Das ist erlaubt, wenn der Rahmen stimmt. Die Datenschutzkonferenz, also das Gremium der deutschen Datenschutzaufsichtsbehörden, hat dazu am 6. Mai 2024 eine Orientierungshilfe zu KI und Datenschutz veröffentlicht. Die DSK nennt dort unter anderem, dass du für die Verarbeitung eine Rechtsgrundlage brauchst und die Betroffenen informieren und ihre Rechte wahren musst. Dieser Ratgeber konzentriert sich auf die praktischen Bausteine: welcher Account, welcher Vertrag, welche Einstellungen und welches Wissen im Team. Die Prüfung von Rechtsgrundlage, Informationspflichten und Betroffenenrechten ersetzen sie nicht.

Was ehrlich gesagt nicht in Ordnung ist: Der Mitarbeiter, der mit seinem privaten Gratis-Account Kundenanfragen beantwortet, weil es halt schneller geht. Genau diesen Fall wollen die Aufsichtsbehörden mit der Empfehlung für Firmenaccounts vermeiden.

Was ist der Unterschied zwischen privatem ChatGPT und ChatGPT Business für die DSGVO?

Der Unterschied liegt darin, wer Vertragspartner ist, wer die Einstellungen kontrolliert und was mit deinen Daten passiert. Bei einem privaten Account ist der Mitarbeiter selbst Kunde von OpenAI, und du als Firma hast weder Einblick noch Kontrolle darüber, welche Kundendaten dort landen, ob sie gespeichert bleiben oder ob sie zum Training genutzt werden.

Die DSK empfiehlt deshalb in Abschnitt 2.4 und 2.5 ihrer Orientierungshilfe, dass Arbeitgeber ihren Beschäftigten Firmengeräte und Firmenaccounts zur Verfügung stellen, statt private Accounts zu dulden. Am besten läuft der Account über ein Funktionspostfach, also eine Adresse wie ki@deine-firma.de statt der privaten Mail des Mitarbeiters. Das hat einen ganz praktischen Grund: Wenn der Mitarbeiter geht, bleibt der Account und mit ihm die Kontrolle in der Firma.

Bei OpenAI sind die Firmentarife ChatGPT Business und ChatGPT Enterprise. Laut OpenAIs Seite zu Geschäftsdaten nutzt OpenAI Eingaben und Ausgaben aus ChatGPT Business, ChatGPT Enterprise und der API standardmäßig nicht zum Training. Bei einem privaten Account musst du das selbst in den Einstellungen abschalten, und du musst darauf vertrauen, dass jeder Mitarbeiter das auch wirklich getan hat.

Wenn du gerade noch überlegst, welche KI überhaupt zu deinem Betrieb passt, schau dir meinen Vergleich von ChatGPT, Claude und Gemini an. Die Datenschutzfragen hier gelten für alle drei gleich: Firmenaccount, Vertrag, Training aus.

Brauche ich einen Auftragsverarbeitungsvertrag (AVV) mit dem KI-Anbieter?

Ja, in aller Regel brauchst du einen. Die DSK schreibt in ihrer Orientierungshilfe, dass ein externer Cloud-KI-Anbieter, der die Daten in deinem Auftrag verarbeitet, üblicherweise als Auftragsverarbeiter tätig wird, und dann muss nach Art. 28 Abs. 3 DSGVO ein Vertrag zur Auftragsverarbeitung geschlossen werden. Den kennst du wahrscheinlich schon von deinem Mailanbieter, deiner Buchhaltungssoftware oder deinem Webhoster.

Der AVV regelt, dass der Anbieter deine Daten nur nach deiner Weisung verarbeitet, sie vertraulich behandelt, angemessen schützt und am Ende löscht oder zurückgibt. Ohne diesen Vertrag gibst du Kundendaten an einen Dienstleister weiter, ohne dass klar geregelt ist, was er damit darf.

So gehst du praktisch vor:

1. Prüf im Firmentarif deines KI-Anbieters, wo der Vertrag zur Auftragsverarbeitung angeboten wird, meistens im Admin-Bereich oder auf einer eigenen Rechtsseite.
2. Schließ ihn für die Firma ab, nicht für eine einzelne Person.
3. Leg ihn zu deinen anderen Verträgen und trag das Werkzeug in dein Verzeichnis der Verarbeitungstätigkeiten ein.

Was ist mit dem Datentransfer in die USA?

Viele große KI-Anbieter, darunter OpenAI, sitzen in den USA. Am 10. Juli 2023 hat die Europäische Kommission den Angemessenheitsbeschluss zum EU-US Data Privacy Framework angenommen. Seitdem dürfen personenbezogene Daten an US-Unternehmen fließen, die an diesem Rahmen teilnehmen, ohne dass du zusätzliche Transfermechanismen brauchst. Wichtig: Das gilt nur für Unternehmen, die tatsächlich teilnehmen, also prüf das für deinen Anbieter, bevor du dich darauf verlässt.

Wer die Daten lieber in Europa liegen haben will: Laut OpenAI können berechtigte Kunden von Enterprise, Edu und der API ihre Inhalte im Ruhezustand in Europa speichern lassen. Für ChatGPT Business nennt OpenAI das auf derselben Seite nicht.

Werden meine Kundendaten zum Training der KI verwendet und wie schalte ich das ab?

Das hängt von deinem Tarif und deinen Einstellungen ab. Die DSK sagt klar, dass Anwendungen, die Eingabe- und Ausgabedaten nicht zum Training verwenden, aus Datenschutzsicht vorzuziehen sind. Und sie empfiehlt, die Trainingsnutzung und die Chat-Historie direkt beim Anlegen des Accounts abzuschalten, nicht erst irgendwann später.

Bei ChatGPT Business, ChatGPT Enterprise und der API ist das Training laut OpenAI standardmäßig aus. Bei einem privaten Account findest du die Freigabe in den Einstellungen unter Datenkontrollen und schaltest sie dort ab. Schau bei Claude, Gemini und jedem anderen Werkzeug genauso in die Datenschutz-Einstellungen, bevor dort die erste Kundenmail landet.

Zusätzlich lohnt sich eine einfache Gewohnheit, die mit jedem Tarif funktioniert: Gib nur so viele Daten rein, wie die KI für die Antwort wirklich braucht. Für eine Antwort auf eine Reklamation braucht die KI den Inhalt der Beschwerde und deine Fakten, also Liefertermin, Ersatzangebot, Ansprechpartner. Die private Handynummer des Kunden, sein Geburtsdatum oder seine Kontodaten braucht sie nicht, und dann gehören sie auch nicht in den Chat.

Was müssen meine Mitarbeiter laut AI Act über KI wissen?

Seit dem 2. Februar 2025 musst du Maßnahmen zur Förderung der KI-Kompetenz ergreifen; laut der Kommissionsquelle musst du dabei keinen bestimmten individuellen Kenntnisstand garantieren. Das steht in Art. 4 der europäischen KI-Verordnung, des AI Acts. Laut den Fragen und Antworten der EU-Kommission zur KI-Kompetenz gilt das auch für Betreiber, also zum Beispiel Firmen, deren Mitarbeiter ChatGPT nutzen, um Texte zu schreiben. Die Aufsicht und Durchsetzung beginnt am 2. August 2026, die Pflicht selbst gilt schon länger.

Was heißt das für dich als Inhaber? Sinnvoll ist, dass deine Leute die Risiken kennen, allen voran, dass KI halluziniert, also Dinge erfindet, die plausibel klingen und trotzdem falsch sind. Bei Kunden-E-Mails ist das ziemlich konkret: eine Telefonnummer, die es nicht gibt, ein Liefertermin, den niemand zugesagt hat, oder ein Rabatt, den die KI einfach mal angeboten hat.

Ein Zertifikat oder eine bestimmte Prüfung verlangt die Kommission dafür nicht. Eine dokumentierte Teambesprechung kann ein Einstieg sein; welche weiteren Maßnahmen du brauchst, hängt von den eingesetzten Systemen, ihren Risiken und dem Vorwissen deines Teams ab. In so einer Besprechung legst du zum Beispiel fest:

• welches KI-Werkzeug über welchen Account genutzt werden darf
• welche Daten rein dürfen und welche nicht
• dass jede KI-Antwort vor dem Versand gelesen und geprüft wird
• wer bei Fragen der Ansprechpartner ist

Halt fest, wann du das gemacht hast und wer dabei war.

Wie setze ich KI für E-Mails, Angebote und Nachfassen sauber im Betrieb ein?

Am saubersten, indem du die KI an der Stelle einsetzt, an der sie dir wirklich Arbeit abnimmt, und an der Stelle stoppst, an der eine Entscheidung fällt. Typisch sind drei Bereiche: neue Anfragen beantworten, Angebote formulieren und bei offenen Angeboten nachfassen.

Anfragen beantworten. Hier spart KI am meisten Zeit, weil sich viele Fragen wiederholen: Ist das noch frei, was brauche ich für einen Termin, welche Unterlagen soll ich schicken. Gib der KI deine echten Fakten mit, also Öffnungszeiten, freie Termine, Leistungen und Ablauf, damit sie nicht raten muss. Alles, was du nicht vorgegeben hast und trotzdem in der Antwort steht, streichst du oder prüfst es nach.

Angebote formulieren. Die KI kann aus deinen Stichpunkten einen gut lesbaren Angebotstext machen. Die Zahlen, Positionen und Fristen kommen aber von dir, nie von der KI. Prüf jeden Preis Zeile für Zeile, bevor das Angebot rausgeht.

Nachfassen. Hier bleibt leicht etwas liegen, wenn ein Angebot rausgeht, der Kunde sich nicht meldet und im Alltag niemand mehr daran denkt. Eine kurze, freundliche Rückfrage nach ein paar Tagen ist genau die Art Text, die KI gut und schnell schreibt.

Der Haken am manuellen Weg mit ChatGPT: Er wartet, bis du selbst tippst. Du musst jede Mail kopieren, die Fakten dazuschreiben, die Antwort zurück in dein Postfach holen und dir selbst merken, wann du nachfassen wolltest. Genau deshalb gibt es Assistenten, die direkt an deinem Postfach arbeiten. Der Verselo KI-Assistent zum Beispiel liest jede neue Mail, legt die Antwort in deinem Ton als Entwurf in dein Postfach und meldet sich mit einem fertigen Nachfass-Entwurf, wenn ein Angebot drei Tage unbeantwortet bleibt. Er läuft auf einem eigenen Server in der EU nur für deine Firma, deine Mails bleiben in deinem Postfach, und für das Formulieren nutzt er deinen eigenen Business-Zugang zu Claude oder ChatGPT, sodass kein fremdes Modell mit deinen Firmendaten trainiert wird. Wie das konkret aussieht, siehst du auf verselo.ai.

Entwurf statt Autopilot: Wann darf die KI selbst antworten?

Am Anfang gar nicht, und bei Preisen und Zusagen nie. Das schreibt dir so wörtlich kein Gesetz vor, es folgt aber aus demselben Gedanken wie die KI-Kompetenz im AI Act: Wenn KI halluzinieren kann, dann muss ein Mensch prüfen, bevor etwas beim Kunden landet.

So würde ich das aufbauen:

1. Start mit Entwürfen. Die KI schreibt jede Antwort, aber nichts geht von allein raus. Du liest mit, korrigierst und gibst frei. In dieser Phase siehst du sehr schnell, wo die KI zuverlässig ist und wo nicht.
2. Routine schrittweise freigeben. Wenn eine bestimmte Art von Mail über Wochen sauber sitzt, etwa die Bestätigung einer Terminanfrage oder die Bitte um Unterlagen, kannst du genau diese Art auf automatisch stellen.
3. Heikles bleibt Entwurf. Preise, Rabatte, Verhandlungen, Reklamationen und alles, was eine Zusage enthält, landet immer als Entwurf bei dir. Das ist die Grenze, die ich nie verschieben würde.

Diese Logik steckt übrigens auch im Verselo KI-Assistenten: Er startet mit Entwürfen, du schaltest pro Mail-Art um, und Preise und Zusagen schickt er nie ungefragt raus. Wenn du das an deinem eigenen Postfach durchspielen willst, buch dir ein kostenloses 30-Minuten-Gespräch, dann schauen wir gemeinsam, ob sich das für deinen Betrieb lohnt.

Fazit

KI für Kunden-E-Mails und Angebote kann dir im Alltag viel Zeit sparen. Die Grundlage ist die Datenschutzprüfung: Rechtsgrundlage, Informationspflichten, Betroffenenrechte, Datensicherheit und mögliche Drittlandtransfers. Firmenaccount, erforderlicher Auftragsverarbeitungsvertrag, ausgeschaltete Trainingsnutzung, sparsame Dateneingabe und Maßnahmen zur KI-Kompetenz im Team sind die Bausteine, mit denen du diesen Rahmen praktisch umsetzt.