„Dürfen wir das überhaupt?" ist die Frage, die in Unternehmen mehr KI-Projekte aufhält als jede technische Hürde. Sie wird selten beantwortet und meistens vertagt — und in der Zwischenzeit nutzen die Mitarbeiter die Werkzeuge trotzdem, nur eben ohne Regel.
Dieser Beitrag beantwortet sie. Nicht juristisch erschöpfend, sondern so, dass eine Geschäftsführung damit entscheiden kann: Was muss schriftlich vorliegen, was löst EU-Hosting wirklich, wie lange darf gespeichert werden — und was ist seit dem 2. August 2026 dazugekommen.
Hinweis: Dieser Text ist eine fachliche Einordnung aus der Praxis, keine Rechtsberatung. Für die verbindliche Bewertung Ihres Einzelfalls ist Ihre Datenschutzberatung oder ein Fachanwalt zuständig. Alle genannten Fristen und Entscheidungen sind mit Datum angegeben, damit Sie sie selbst nachprüfen können.
1. Die kurze Antwort in vier Sätzen
Sie dürfen personenbezogene Daten in ein KI-Tool geben, wenn ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO mit dem Anbieter besteht, wenn Sie eine Rechtsgrundlage für die Verarbeitung haben, wenn der Datenfluss in Ihr Verarbeitungsverzeichnis und in Ihre Datenschutzerklärung eingetragen ist und wenn geklärt ist, wie lange der Anbieter speichert und ob er mit Ihren Eingaben trainiert.
Fehlt eines davon, ist das Problem nicht der Anbieter, sondern Sie: Verantwortlich im Sinne der DSGVO ist das Unternehmen, das die Daten hineingibt — nicht das, das sie verarbeitet.
2. Warum ein KI-Tool ein Auftragsverarbeiter ist
Ein Auftragsverarbeiter ist, wer personenbezogene Daten weisungsgebunden für einen anderen verarbeitet. Genau das tut ein KI-Anbieter, wenn Sie ihm einen Text mit Kundennamen zur Zusammenfassung geben: Sie bestimmen Zweck und Mittel, er führt aus. Damit greift Art. 28 DSGVO — und der verlangt einen Vertrag, nicht eine Vereinbarung per Häkchen.
Der zweite Punkt wird häufiger übersehen: Personenbezug entsteht schneller, als die meisten annehmen. Nicht nur die offensichtliche Kundenliste, sondern auch
- eine weitergeleitete Kundenmail, die Sie „nur kurz zusammenfassen lassen",
- ein Bewerbungsschreiben, das eine KI vorsortieren soll,
- ein Besprechungsprotokoll mit Namen und Einschätzungen,
- ein Screenshot aus dem CRM, den jemand in ein Chatfenster zieht,
- ein Supportticket, das als Beispiel für einen Prompt dient.
In allen fünf Fällen verlassen personenbezogene Daten Ihr Haus. Ob das erlaubt ist, entscheidet sich nicht an der Menge, sondern daran, ob der Rahmen steht.
3. Was im AVV stehen muss — die Pflichtangaben
Art. 28 Abs. 3 DSGVO zählt auf, was ein Auftragsverarbeitungsvertrag regeln muss. Diese Liste ist Ihr Prüfraster, wenn Ihnen ein Anbieter sein Standarddokument vorlegt:
| Pflichtangabe | Woran Sie erkennen, dass sie fehlt |
|---|---|
| Gegenstand, Dauer, Art und Zweck der Verarbeitung | Der Vertrag beschreibt das Produkt, aber nicht, welche Daten wofür verarbeitet werden. |
| Art der Daten und Kategorien Betroffener | Es steht „Nutzerdaten" da und sonst nichts. |
| Weisungsbindung des Auftragsverarbeiters | Der Anbieter behält sich eigene Verarbeitungszwecke vor — etwa Produktverbesserung. |
| Vertraulichkeit der eingesetzten Personen | Keine Aussage zur Verpflichtung der Mitarbeiter. |
| Technische und organisatorische Maßnahmen (Art. 32) | Es gibt keine Anlage, die die Maßnahmen benennt. |
| Regeln für Unterauftragsverarbeiter | Keine Liste, keine Ankündigungsfrist, kein Widerspruchsrecht. |
| Unterstützung bei Betroffenenrechten und Meldepflichten | Unklar, wie Sie an eine Auskunft oder Löschung kommen. |
| Löschung oder Rückgabe nach Vertragsende | Es steht nur, dass das Konto geschlossen wird. |
| Nachweis- und Prüfrechte | Kein Verweis auf Zertifikate, Berichte oder Auditmöglichkeiten. |
Bei den großen Anbietern liegt ein solcher Vertrag vor — aber häufig nur im Geschäfts- oder Enterprise-Tarif, und oft muss er im Konto ausdrücklich abgeschlossen werden. Ein privates Konto, mit dem jemand „mal eben" arbeitet, hat keinen. Das ist der häufigste praktische Befund in Unternehmen, und er lässt sich in einer Stunde beheben.
4. EU-Hosting: was es löst, was es offenlässt
„Wir haben EU-Server" ist ein gutes Argument — aber es beantwortet genau eine Frage von vieren. EU-Hosting löst den Ort der Verarbeitung. Es sagt nichts darüber, ob ein AVV besteht, wie lange gespeichert wird und ob mit Ihren Eingaben trainiert wird.
Für US-Anbieter gilt zusätzlich die Frage des Drittlandtransfers. Der EU-US Data Privacy Framework besteht als Angemessenheitsbeschluss weiter; für zertifizierte Anbieter ist der Transfer damit abgedeckt. Er steht allerdings unter Druck: Am 29. Juni 2026 hat der US Supreme Court in Trump v. Slaughter entschieden, dass die Unabhängigkeit der Federal Trade Commission verfassungswidrig ist — und die FTC gehört zu den Aufsichtsmechanismen, auf die sich der Beschluss stützt. Vor dem Gericht der Europäischen Union liegt außerdem das Verfahren Latombe (T-553/23).
Was heißt das praktisch? Nicht: sofort wechseln. Sondern: so auswählen, dass ein Wechsel möglich bliebe. Wer heute alle Prozesse fest an einen einzigen US-Anbieter bindet, hat im Fall der Fälle keinen zweiten Zug.
5. Löschfristen und Training: die drei Schalter
Drei Einstellungen entscheiden darüber, was mit Ihren Eingaben geschieht. Jede davon ist eine eigene Frage an den Anbieter, und jede sollte schriftlich beantwortet sein:
Schalter 1: Speicherdauer
Wie lange bleibt eine Eingabe beim Anbieter? Üblich sind wenige Tage bis 30 Tage zur Missbrauchserkennung. Entscheidend ist nicht die Zahl, sondern dass sie im Vertrag steht — eine Frist, die nur im Hilfezentrum steht, kann sich ändern, ohne dass Sie es erfahren.
Schalter 2: Training mit Ihren Daten
Werden Ihre Eingaben zur Verbesserung der Modelle verwendet? Bei Geschäftstarifen ist das in der Regel abgeschaltet, bei privaten Konten oft nicht. Prüfen Sie das nicht in der Werbung, sondern in den Vertragsunterlagen — und prüfen Sie es erneut, wenn der Anbieter seine Bedingungen ändert.
Schalter 3: Protokolle und Zugriff durch Menschen
Wer beim Anbieter kann Ihre Eingaben sehen, unter welchen Umständen und wie lange? Das ist der Punkt, der in Prüfungen am häufigsten unbeantwortet bleibt — und der bei sensiblen Inhalten den Ausschlag gibt.
Faustregel für die Praxis: Wenn Sie zu einem Werkzeug diese drei Fragen nicht in zehn Minuten schriftlich beantworten können, gehört es noch nicht in den Regelbetrieb. Nicht, weil es unsicher wäre — sondern weil Sie es im Ernstfall nicht belegen können.
6. Was die Aufsicht sagt: EDSA-Stellungnahme 28/2024
Der Europäische Datenschutzausschuss hat am 18. Dezember 2024 die Stellungnahme 28/2024 zu KI-Modellen veröffentlicht. Sie ist der derzeit wichtigste gemeinsame Bezugspunkt der europäischen Aufsichtsbehörden und beantwortet drei Fragen:
- Wann gilt ein KI-Modell als anonym? Wenn die Identifizierung betroffener Personen oder die Rückgewinnung personenbezogener Daten aus dem Modell sehr unwahrscheinlich ist. Der Ausschuss nennt dafür eine nicht abschließende Liste von Prüfmethoden — ein Modell ist also nicht schon deshalb anonym, weil es keine Datenbank ist.
- Kann berechtigtes Interesse die Rechtsgrundlage sein? Grundsätzlich ja, über einen dreistufigen Test: Die Verarbeitung muss für das Interesse notwendig sein, die Rechte der Betroffenen müssen durch Maßnahmen geschützt werden, und die Betroffenen müssen vernünftigerweise mit der Verarbeitung rechnen können.
- Was gilt für rechtswidrig trainierte Modelle? Die Nutzung eines solchen Modells kann selbst unzulässig sein — es sei denn, es hat eine ordnungsgemäße Anonymisierung stattgefunden.
Der dritte Punkt ist der unbequemste: Er verschiebt einen Teil der Verantwortung auf den Einsatz. Wer ein Modell einsetzt, sollte deshalb wenigstens wissen, was der Anbieter über seine Trainingsdaten aussagt.
7. Neu seit dem 2. August 2026: die Transparenzpflicht
Seit dem 2. August 2026 gelten die Transparenzpflichten der KI-Verordnung auch für Betreiber — also für Unternehmen, die KI nur einsetzen, nicht entwickeln. Nach Art. 50 heißt das im Kern:
- Menschen müssen erkennen können, dass sie mit einer Maschine kommunizieren.
- Generative Ausgaben sind maschinenlesbar als KI-erzeugt zu kennzeichnen. Für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, gilt hierfür eine Übergangsfrist bis zum 2. Dezember 2026.
- Bei Emotionserkennung und biometrischer Kategorisierung sind die betroffenen Personen zu informieren.
- Deepfakes und veröffentlichte KI-Texte zu Themen von öffentlichem Interesse sind zu kennzeichnen.
Was nicht gilt: Die Hochrisiko-Pflichten wurden verschoben — für die Anwendungsfälle aus Anhang III auf den 2. Dezember 2027, für Anhang I auf den 2. August 2028. Die neuen Verbote aus Art. 5 greifen ab dem 2. Dezember 2026.
Für Marketing und Kommunikation ist vor allem die Kennzeichnung relevant. Wie das konkret aussieht, steht in unserem Beitrag zu Artikel 50 und der Kennzeichnung von KI-Inhalten im Marketing.
8. In vier Schritten zur belastbaren Freigabe
Schritt 1: Inventur — welche Werkzeuge laufen wirklich?
Fragen Sie nicht, welche Werkzeuge freigegeben sind, sondern welche benutzt werden. Die Antwort ist fast immer länger. Notieren Sie je Werkzeug: wer, wofür, mit welchen Daten, in welchem Tarif. Eine halbe Seite genügt.
Schritt 2: Verträge einsammeln
Für jedes Werkzeug mit Personenbezug: AVV abschließen oder das Werkzeug abschalten. Ein drittes Ergebnis gibt es nicht. Prüfen Sie den Vertrag gegen die Tabelle in Abschnitt 3 — nicht, um ihn zu verhandeln, sondern um zu wissen, was Sie unterschrieben haben.
Schritt 3: Eintragen
Verarbeitungsverzeichnis nach Art. 30, Datenschutzerklärung nach Art. 13/14, gegebenenfalls Folgenabschätzung nach Art. 35. Dieser Schritt fühlt sich nach Bürokratie an und ist der einzige, der im Prüfungsfall zählt: Was nicht dokumentiert ist, ist nicht passiert.
Schritt 4: Eine Richtlinie, die man in fünf Minuten liest
Nicht zwanzig Seiten Datenschutzkonzept, sondern eine Seite: Welche Werkzeuge sind freigegeben, welche Daten dürfen hinein, welche nie, und an wen wendet man sich im Zweifel. Dazu eine kurze Einweisung — die KI-Verordnung erwartet ohnehin, dass Betreiber die KI-Kompetenz ihrer Mitarbeiter fördern. Wir machen das in einem kompakten Workshop, es geht aber auch im eigenen Haus.
9. Die fünf häufigsten Fehler
- Privates Konto im Betrieb. Kein AVV, kein Training-Opt-out, keine Kontrolle. Der häufigste Befund überhaupt.
- EU-Hosting mit Freigabe verwechselt. Der Ort ist geregelt, der Rest nicht.
- Die Datenschutzerklärung sagt „Wir setzen KI ein". Zu unbestimmt, um die Informationspflicht zu erfüllen.
- Niemand kennt die Löschfrist. Auch nicht der, der das Werkzeug eingeführt hat.
- Alles auf einen Anbieter. Rechtlich vertretbar, strategisch riskant — siehe Abschnitt 4.
10. Fazit: Schriftform schlägt Bauchgefühl
Die Frage „Dürfen wir das?" hat eine unspektakuläre Antwort: Sie dürfen, wenn Sie es aufschreiben. Ein Auftragsverarbeitungsvertrag, ein Eintrag im Verzeichnis, ein Absatz in der Datenschutzerklärung, eine Seite Richtlinie — das ist der ganze Unterschied zwischen einem geduldeten Zustand und einem belastbaren.
Der Aufwand dafür liegt bei den meisten Unternehmen unter einem Tag. Was ihn teuer macht, ist das Aufschieben: Je länger die Werkzeuge ohne Rahmen laufen, desto mehr Daten sind schon geflossen, und desto unangenehmer wird die Inventur.
Wenn Sie wissen wollen, wo Ihr Unternehmen gerade steht, ist unser KI-Fitness-Test ein schneller Einstieg. Für die Einordnung des gesamten Werkzeugkastens hilft der Beitrag zum KI-Tech-Stack, und wer die Datenseite grundsätzlich sortieren will, findet in First-Party-Daten als Fundament den größeren Rahmen. Wie Einwilligung und Messung zusammenspielen, steht in Consent Mode v2; die grundsätzliche Abwägung zwischen Ethik, Recht und Wirkung behandelt Ethik, Recht und Psychologie im KI-Marketing.
Und wenn Sie es lieber einmal gemeinsam durchgehen: Wir machen genau diese Inventur regelmäßig mit Geschäftsführungen — nüchtern, in zwei Stunden, mit einer Liste am Ende. Was das umfasst oder direkt ein Erstgespräch.
11. FAQ: Häufige Fragen zu KI-Tools und DSGVO
Brauche ich für ChatGPT einen Auftragsverarbeitungsvertrag?
Ja, sobald personenbezogene Daten hineingehen — und das ist schneller der Fall, als viele denken: ein Bewerbungsschreiben, eine Kundenmail, ein Protokoll mit Namen. Der Anbieter verarbeitet diese Daten weisungsgebunden für Sie, das ist Auftragsverarbeitung nach Art. 28 DSGVO. Ohne Vertrag fehlt die Grundlage, und zwar Ihnen, nicht dem Anbieter: verantwortlich sind Sie. Die großen Anbieter stellen einen AVV bereit, meist im Geschäfts- oder Enterprise-Tarif und oft erst nach aktivem Abschluss im Konto.
Reicht ein Tarif mit EU-Servern, damit alles geregelt ist?
Nein. EU-Hosting löst eine Frage — wo die Daten liegen — und lässt drei offen: ob ein AVV geschlossen ist, wie lange gespeichert wird und ob Ihre Eingaben zum Training verwendet werden. Ein Anbieter kann in Frankfurt hosten und trotzdem 30 Tage protokollieren und mittrainieren. EU-Hosting ist ein Baustein, keine Freigabe.
Was passiert, wenn ein Mitarbeiter versehentlich Kundendaten eingibt?
Zunächst: Das ist keine Frage von Schuld, sondern von Vorbereitung. Prüfen Sie, ob eine Löschmöglichkeit besteht (viele Anbieter bieten das Löschen einzelner Unterhaltungen), dokumentieren Sie den Vorfall und bewerten Sie, ob eine Meldepflicht nach Art. 33 DSGVO greift. Wichtiger ist der Schritt davor: eine kurze, verbindliche Richtlinie, die sagt, welche Daten in welches Werkzeug dürfen — und welche nie.
Muss ich eine Datenschutz-Folgenabschätzung machen?
Nicht bei jedem Einsatz. Sie wird verpflichtend, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte der Betroffenen mit sich bringt (Art. 35 DSGVO) — etwa bei umfangreicher Verarbeitung besonderer Kategorien, bei Bewertung und Profilbildung oder bei systematischer Beobachtung. Ein KI-Tool für Textentwürfe ohne Personenbezug braucht keine; ein KI-gestütztes Bewerbervorauswahl-System sehr wohl.
Was gilt seit dem 2. August 2026 zusätzlich?
Seit diesem Tag greifen die Transparenzpflichten der KI-Verordnung für Betreiber (Art. 50): Menschen müssen erkennen können, dass sie mit einer Maschine sprechen; KI-erzeugte Inhalte sind maschinenlesbar zu kennzeichnen; bei Emotionserkennung und biometrischer Kategorisierung sind die Betroffenen zu informieren; Deepfakes und veröffentlichte KI-Texte zu Themen von öffentlichem Interesse sind zu kennzeichnen. Für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, gilt für die Kennzeichnung generativer Inhalte eine Übergangsfrist bis zum 2. Dezember 2026.
Sind die Hochrisiko-Pflichten der KI-Verordnung damit auch aktiv?
Nein, die wurden verschoben: für die Anwendungsfälle aus Anhang III auf den 2. Dezember 2027, für Anhang I auf den 2. August 2028. Die neuen Verbote aus Art. 5 greifen ab dem 2. Dezember 2026. Wer heute plant, sollte den Zeitplan trotzdem kennen — die Vorlaufzeit für ein Hochrisiko-System ist länger als der Abstand bis 2027.
Dürfen wir US-Anbieter überhaupt noch nutzen?
Ja. Der EU-US Data Privacy Framework besteht als Angemessenheitsbeschluss weiter; für zertifizierte Anbieter ist der Transfer damit abgedeckt. Er steht allerdings unter Beobachtung: Am 29. Juni 2026 hat der US Supreme Court in Trump v. Slaughter entschieden, dass die Unabhängigkeit der FTC verfassungswidrig ist — und die FTC ist eine der Aufsichtssäulen, auf die sich der Beschluss stützt. Vor dem Gericht der EU liegt zudem das Verfahren Latombe (T-553/23). Wer heute auswählt, sollte deshalb wissen, ob er im Zweifel wechseln könnte.
Wie lange darf ein KI-Anbieter unsere Eingaben speichern?
So lange, wie es der Vertrag mit Ihnen erlaubt — deshalb ist die Löschfrist ein Vertragsthema und keine technische Fußnote. Üblich sind Aufbewahrungszeiten von wenigen Tagen bis 30 Tagen zur Missbrauchserkennung; einige Anbieter bieten für Geschäftskunden auch eine Verarbeitung ohne Speicherung an. Entscheidend ist, dass die Frist im AVV oder in den Nutzungsbedingungen steht und dass Sie sie kennen, bevor die ersten Daten fließen.
Was muss unsere Datenschutzerklärung sagen?
Wenn Sie KI-Werkzeuge einsetzen, die personenbezogene Daten Ihrer Kunden oder Bewerber verarbeiten, gehört das in die Informationen nach Art. 13/14 DSGVO: Zwecke, Rechtsgrundlage, Empfänger (also den Anbieter), Drittlandtransfer und Speicherdauer. Ein Satz wie „Wir setzen KI ein" genügt nicht — die Angaben müssen so konkret sein, dass ein Betroffener nachvollziehen kann, wohin seine Daten gehen.
