Unter welchem Vertrag nutzt dein Team KI? Die Good-Faith-Klausel als Weckruf

Ein Bewerberprofil, eine Kundenpräsentation, eine Personalakte, eine Preisliste, ein Chatverlauf aus dem Kundenservice: Das alles landet in Unternehmen inzwischen täglich in KI-Systemen. Welches Modell dabei am besten abschneidet, wird ausführlich diskutiert. Unter welchen Bedingungen diese Daten verarbeitet werden, fragt erstaunlich selten jemand.

Darauf gebracht hat mich eine Debatte, die seit dem Sommer läuft, und zwar um eine einzelne Formulierung in den Datenschutzbestimmungen von Anthropic, dem Unternehmen hinter Claude. In diesem Artikel ordne ich ein, was diese Klausel tatsächlich sagt, für wen sie gilt, warum sie weniger über Anthropic verrät als über unseren eigenen Umgang mit KI, und welche Fragen sich jedes Team jetzt stellen sollte.

Was die Good-Faith-Klausel sagt

Mit dem Update vom 8. Juli 2026 ist eine Regel in den Datenschutzbestimmungen von Anthropic in den Fokus gerückt, die aktuelle Fassung gilt seit dem 10. September 2026. Danach darf Anthropic personenbezogene Daten mit Behörden, Strafverfolgung oder anderen Dritten teilen, wenn das Unternehmen auf Basis der vorliegenden Informationen “in gutem Glauben” (good-faith belief) davon ausgeht, dass das vernünftigerweise nötig ist (Anthropic Privacy Policy). Genannt werden vier Zwecke:

geltendes Recht, Vorschriften oder rechtliche Verfahren einzuhalten, auch bei einer durchsetzbaren behördlichen Anfrage,
ernsthaften Schaden von Personen oder Eigentum abzuwenden,
Betrug oder andere illegale Aktivitäten zu erkennen, zu verhindern oder anzugehen,
die eigenen Nutzungsbedingungen durchzusetzen oder Rechte, Eigentum und Sicherheit von Anthropic, seinen Nutzern oder anderen zu schützen.

Kurz gesagt…was auffällig ist und weitergegeben wird, entscheidet das Unternehmen zunächst selbst. Einen richterlichen Beschluss setzt die Klausel dafür nicht voraus, und genau daran entzündet sich die Kritik. Auf LessWrong wurde die Änderung zum Beispiel unter der Überschrift diskutiert, der gute Glaube ersetze hier den Durchsuchungsbeschluss (LessWrong, 2026).

Was Anthropic an anderer Stelle zusagt

Zur fairen Einordnung gehört ein zweites Dokument. Anthropic hat eine eigene Richtlinie für Behördenanfragen veröffentlicht, zuletzt aktualisiert am 16. März 2026. Darin steht, dass Informationen über Kunden oder Endnutzer auf Behördenanfragen nur auf Grundlage gültiger rechtlicher Verfahren herausgegeben werden, also etwa einer ordnungsgemäß erlassenen Vorladung (Subpoena) oder eines Durchsuchungsbeschlusses. Die Ausnahme ist ein Notfall, bei dem unmittelbare Gefahr für Leib und Leben besteht. Anthropic sagt außerdem zu, Nutzer zu informieren, wenn ihre Daten angefragt werden, sofern das rechtlich zulässig ist, und veröffentlicht regelmäßig Transparenzberichte über solche Anfragen (Anthropic, Policy for Handling Governmental Requests).

Beide Dokumente passen allerdings nicht ganz deckungsgleich aufeinander. Die Privacy Policy ist breiter formuliert, sie nennt neben Behörden auch “andere Dritte” und Zwecke wie Betrugsbekämpfung oder die Durchsetzung der eigenen Nutzungsbedingungen. Kritiker sehen darin eine Lücke zwischen der öffentlichen Zusage und dem Wortlaut der Datenschutzbestimmungen. Wie groß dieser Unterschied in der Praxis ist, lässt sich von außen schwer beurteilen. Für die Frage, um die es mir hier geht, ist er ohnehin zweitrangig.

Spannend wird es im Kleingedruckten: Für wen die Klausel gilt

Die Privacy Policy gilt für die Consumer-Produkte, also Claude Free, Pro und Max. Ausdrücklich ausgenommen sind Inhalte, die Anthropic im Auftrag von Geschäftskunden verarbeitet, etwa bei Enterprise-Accounts (Anthropic Privacy Policy). Für Team, Enterprise und die API gelten die Commercial Terms, ein eigenes Vertragswerk mit anderen Regeln.

Die Unterschiede sind dabei mehr als kosmetisch. Ein paar Beispiele aus den Commercial Terms: Anthropic darf keine Modelle mit Kundeninhalten aus diesen Diensten trainieren. Die Datenverarbeitung läuft nach einem Data Processing Addendum, also einem Vertrag zur Auftragsverarbeitung, der fester Bestandteil der Bedingungen ist. Für Kunden aus dem Europäischen Wirtschaftsraum ist Vertragspartner die irische Gesellschaft Anthropic Ireland (Anthropic Commercial Terms). Dazu kommt aus der Behördenrichtlinie: Wird nach Daten eines API- oder Enterprise-Kunden gefragt, verweist Anthropic die anfragende Stelle in der Regel zuerst an den Kunden selbst.

Im Consumer-Bereich sieht das anders aus. Seit dem Update der Consumer Terms im August 2025 entscheiden Nutzer von Free, Pro und Max selbst, ob ihre Chats für das Training künftiger Modelle verwendet werden dürfen. Wer zustimmt, dessen Daten werden bis zu fünf Jahre gespeichert, wer ablehnt, bleibt bei 30 Tagen (Anthropic, Updates to our Consumer Terms, 2025). Das ist eine transparente Regelung, aber eben eine Entscheidung, die jeder einzelne Nutzer für sich trifft, und nicht das Unternehmen, dessen Daten er gerade eingibt.

Weniger eine Anthropic-Frage als eine Vertragsfrage

Ähnliche Formulierungen finden sich auch bei anderen US-Anbietern. OpenAI erlaubt in seiner Datenschutzerklärung die Weitergabe an Behörden ebenfalls, wenn das Unternehmen in gutem Glauben davon ausgeht, dass dies nötig ist, um rechtliche Pflichten zu erfüllen, Rechte zu schützen oder Betrug zu verhindern (OpenAI Privacy Policy, via ConductAtlas). In seiner Law Enforcement Policy beschreibt OpenAI zugleich, dass Daten grundsätzlich nur auf Basis gültiger rechtlicher Verfahren oder in Notfällen mit Gefahr für Leib und Leben herausgegeben werden (OpenAI Law Enforcement Policy). Das Muster ist also dasselbe: eine breite Formulierung in den Datenschutzbestimmungen und eine engere Zusage in der Richtlinie für Behördenanfragen.

Über das Kleingedruckte der KI-Anbieter habe ich schon im Mai im Artikel über das KI-Anbieter-Prinzip geschrieben. Die Good-Faith-Debatte zeigt einmal mehr, dass es sich lohnt, genau dort hinzuschauen. Wer die Diskussion allein auf Anthropic verengt, übersieht allerdings den eigentlichen Punkt. Die spannendere Frage lautet: Warum landen vertrauliche Unternehmensinformationen überhaupt in Consumer-Produkten?

CLOUD Act und DSGVO: ein Spannungsfeld, das schon lange besteht

Selbst ohne Good-Faith-Klausel bleibt ein Grundsachverhalt: Amerikanische Anbieter unterliegen amerikanischem Recht. Der CLOUD Act von 2018 hat das ausdrücklich festgeschrieben. Anbieter von elektronischen Kommunikations- und Cloud-Diensten müssen danach Daten, die sich in ihrem Besitz, Gewahrsam oder unter ihrer Kontrolle befinden, auf rechtliche Anordnung sichern oder herausgeben, unabhängig davon, ob diese Daten innerhalb oder außerhalb der USA gespeichert sind (18 U.S.C. § 2713).

Auf der anderen Seite steht die DSGVO. Artikel 48 legt fest, dass Urteile oder Behördenentscheidungen aus Drittländern, die eine Herausgabe personenbezogener Daten verlangen, in der EU nur dann anerkannt oder vollstreckbar sind, wenn sie auf einem internationalen Abkommen beruhen, etwa einem Rechtshilfeabkommen (Art. 48 DSGVO). Ein US-Anbieter mit europäischen Kunden kann damit in eine Lage geraten, in der das eine Recht die Herausgabe verlangt und das andere sie nicht ohne Weiteres zulässt.

Dazu kommt die Frage, ob personenbezogene Daten überhaupt in die USA übermittelt werden dürfen. Der Europäische Gerichtshof hat 2020 im Schrems-II-Urteil den damaligen Privacy Shield für ungültig erklärt, unter anderem wegen der Zugriffsmöglichkeiten US-amerikanischer Sicherheitsbehörden (EuGH, C-311/18). Seit Juli 2023 gilt das EU-US Data Privacy Framework als Nachfolger. Das Gericht der EU hat es im September 2025 bestätigt, die Berufung liegt beim Europäischen Gerichtshof, und im Juli 2026 hat der Europäische Datenschutzausschuss die EU-Kommission gebeten zu prüfen, ob ein Urteil des US Supreme Court zur Unabhängigkeit der Handelsbehörde FTC die Grundlage des Abkommens berührt (Streamlex, DPF Developments Tracker; PPC Land, 2026). Das Framework gilt weiterhin, die Rechtslage bleibt aber in Bewegung.

Den Satz “Unsere Daten liegen in Europa, also sind sie sicher” sollte man vor diesem Hintergrund noch einmal überprüfen. Der Serverstandort ist ein wichtiger Baustein, er löst das Spannungsfeld aber nicht vollständig auf, solange der Anbieter selbst US-Recht unterliegt.

Was ein Firmenvertrag regelt und beim Privat-Abo offenbleibt

Viele Organisationen behandeln ChatGPT Plus, Claude Pro oder andere Consumer-Abos wie harmlose Produktivitätstools. Rechtlich sind das Einzelverträge zwischen einer Person und dem Anbieter, gemacht für den persönlichen Gebrauch. Ein Firmenvertrag regelt dagegen genau die Punkte, die dabei offenbleiben:

Wer ist verantwortlich? Bei der Auftragsverarbeitung bleibt das Unternehmen Verantwortlicher, der Anbieter verarbeitet die Daten nach dessen Weisung. Artikel 28 DSGVO verlangt dafür einen Vertrag, der unter anderem Gegenstand, Dauer, Art und Zweck der Verarbeitung, die Art der Daten, die betroffenen Personengruppen, die Rechte und Pflichten des Verantwortlichen sowie die Pflichten des Auftragsverarbeiters festlegt (Art. 28 DSGVO).
Wofür dürfen die Daten genutzt werden? Etwa, ob mit den Eingaben Modelle trainiert werden dürfen. In den Commercial Terms von Anthropic ist das ausgeschlossen, im Consumer-Abo entscheidet der einzelne Nutzer.
Wer darf prüfen? Nachweis- und Kontrollrechte, die Liste der Unterauftragsverarbeiter, technische und organisatorische Schutzmaßnahmen.
Was passiert bei einer Behördenanfrage? Ob und wann das Unternehmen informiert wird und ob die anfragende Stelle zuerst an den Kunden verwiesen wird.

Wer personenbezogene Daten von Kunden, Bewerbern oder Mitarbeitenden in ein Consumer-Abo eingibt, hat diesen Vertrag in der Regel nicht. Die Verantwortung dafür liegt dann weniger beim Anbieter als im eigenen Haus, denn die DSGVO nimmt den Verantwortlichen in die Pflicht, also das Unternehmen.

Fünf Fragen, die sich jedes Team jetzt stellen sollte

Welche KI-Tools werden bei uns tatsächlich genutzt, auch die, die nie offiziell eingeführt wurden?
Unter welchem Vertrag läuft jedes dieser Tools, Consumer-Abo oder Business-, Team- beziehungsweise Enterprise-Vertrag?
Gibt es für jedes Tool, in das personenbezogene Daten fließen, einen Vertrag zur Auftragsverarbeitung?
Welche Daten dürfen in welches Tool? Eine einfache Einteilung in öffentlich, intern, vertraulich und personenbezogen hilft im Alltag mehr als ein pauschales Verbot.
Wissen die Mitarbeitenden, was sie wo eingeben dürfen? Seit dem 2. Februar 2025 verpflichtet der EU AI Act Anbieter und Betreiber von KI-Systemen ohnehin dazu, für ausreichende KI-Kompetenz ihres Personals zu sorgen (Art. 4 AI Act).

Wer vor einer KI-Einführung noch grundsätzlicher ansetzen will, findet in meinem Artikel Wo liegt die Grenze? drei Fragen, die vor jeder Produktivsetzung schriftlich beantwortet sein sollten.

Fazit: Erst der Vertrag, dann das Modell

Für mich ist die Good-Faith-Klausel deshalb weniger eine Geschichte über Anthropic als ein “Hallo wach?” für uns alle. Sie macht sichtbar, was ohnehin gilt: Wer Kundendaten, Bewerberinformationen, Unternehmensstrategien oder rechtlich sensible Inhalte mit KI verarbeitet, sollte zuerst klären, unter welchem Vertrag das passiert, und erst danach, welches Modell das klügste ist. Diese Klarheit ist die Voraussetzung dafür, dass KI im Unternehmen dauerhaft Vertrauen genießt, bei Kunden, bei Bewerbern und bei den eigenen Mitarbeitenden.

Hinweis: Dieser Artikel ist eine Einordnung aus der Praxis und ersetzt keine Rechtsberatung. Alle Quellen wurden am 7. Oktober 2026 geprüft. Datenschutzbestimmungen und Rechtslage ändern sich, im Zweifel gilt immer die aktuelle Fassung beim Anbieter.