Die Aufzeichnung ist nicht das Problem. Was du danach damit machst, schon.

In Teil 3 meiner Serie zur KI-Risikoanalyse hatte ich einen Punkt bewusst offen gelassen: Sobald eine Gesprächsaufzeichnung existiert, liegt die Frage nahe, sie für mehr zu nutzen als für Qualitätssicherung, nämlich für das Training des eigenen KI-Modells. Das habe ich mir seitdem genauer angesehen, und das Ergebnis hat mich überrascht, gerade weil ich in den 90ern selbst noch Kassettenaufzeichnungsgeräte zu Schulungszwecken ans Telefon angeschlossen hatte. Die Technik hat sich seitdem fundamental verändert, die Rechtsfragen sind dafür deutlich komplizierter geworden.

Zwei Regelwerke, ein Missverständnis

Der AI Act interessiert sich für die Aufzeichnung eines Telefonats überhaupt nicht. Er reguliert KI-Systeme, keine Mitschnitte. Ein Bot, der spricht, und eine Audiodatei, die existiert, ändern an der Risikoeinstufung erstmal gar nichts.

Die DSGVO dagegen ist hier der eigentliche Gamechanger, und genau das ist der Denkfehler, den ich in vielen Projekten sehe: Man prüft den AI Act, findet nichts, fühlt sich sauber, während die eigentlich schwierigere Prüfung an ganz anderer Stelle aufläuft. Wer nur auf die KI-Verordnung schaut, übersieht das Regelwerk, das hier tatsächlich greift.

Der Rollenwechsel nach Artikel 25: Vom Betreiber zum Anbieter

Richtig interessant wird es beim Training selbst. Artikel 25 des AI Acts beschreibt drei Szenarien, in denen jemand, der eigentlich nur Betreiber eines fremden Systems ist, zum Anbieter wird: wenn er sein eigenes Kennzeichen auf ein bereits am Markt befindliches Hochrisiko-System anbringt, wenn er eine wesentliche Änderung vornimmt, die die Konformität beeinflusst, oder wenn er die Zweckbestimmung so verändert, dass ein ursprünglich nicht hochriskantes System dadurch hochriskant wird (Art. 25 AI Act).

Wer ein zugekauftes Sprachmodell mit den eigenen Gesprächsdaten nachtrainiert, bewegt sich genau auf dieser Linie. Das ist kein Etikettenwechsel, sondern ein anderes Pflichtenuniversum: Risikomanagement, Datengovernance, technische Dokumentation, Konformitätsbewertung, alles das, was sonst der ursprüngliche Anbieter zu leisten hätte. Der Wechsel passiert automatisch, mit dem Training selbst, ohne Meldung und ohne dass irgendwo jemand einen Haken setzt.

Drei datenschutzrechtliche Hürden, die aktuell unterschätzt werden

Neben dem Rollenwechsel im AI Act kommen datenschutzrechtlich drei Dinge dazu, die in Projekten regelmäßig zu spät auffallen.

Zweckbindung: eine zweite Einwilligung ist nötig

Eine Einwilligung ist zweckgebunden. Wer für Qualitätssicherung zugestimmt hat, hat nicht automatisch für Modelltraining zugestimmt. Art. 6 Abs. 4 DSGVO erlaubt zwar unter bestimmten Voraussetzungen eine Weiterverarbeitung zu einem anderen Zweck, und nennt dafür fünf Prüfkriterien: die Verbindung zwischen ursprünglichem und neuem Zweck, den Erhebungskontext, die Art der Daten, die möglichen Folgen für die Betroffenen und die vorhandenen Schutzmaßnahmen (Art. 6 DSGVO). Dieser Kompatibilitätstest ist aber für gesetzliche Verarbeitungsgrundlagen gedacht, nicht für Einwilligungen. Wenn die ursprüngliche Rechtsgrundlage eine Einwilligung war, braucht die neue Nutzung eine zweite, eigenständige Einwilligung, die jederzeit widerrufbar ist.

Besondere Datenkategorien: was im Gespräch mitläuft

Ein Gespräch sammelt, was der Anrufer sagt, nicht was du abfragst. Gesundheit, Weltanschauung, Familiäres, all das landet ungefiltert in der Aufnahme. Artikel 9 Absatz 1 DSGVO stellt die Verarbeitung von Daten, die unter anderem Gesundheit, religiöse oder weltanschauliche Überzeugungen oder die sexuelle Orientierung offenlegen, unter ein grundsätzliches Verarbeitungsverbot mit engen Ausnahmen (Art. 9 DSGVO). Interessant ist dabei die Stimme selbst: Eine bloße Aufnahme macht die Stimme noch nicht zum biometrischen Datum. Erst wenn eine Technologie gezielt die individuellen Merkmale der Stimme extrahiert, um ein Identifikationsprofil zu erstellen, also ein Voiceprint, greift die verschärfte Kategorie. Im Zweifel empfiehlt sich die konservative Annahme, dass es sich um ein biometrisches Datum handelt (Die Stimme als biometrisches Datum, DSN Group).

Löschung: die ungelöste Frage nach dem Training

Bleibt die Löschung, und jetzt wird es heikel. Wenn jemand widerruft, nachdem bereits trainiert wurde, gibt es dafür bis heute keine saubere technische Antwort. Ein Modell lässt sich nicht einfach um die Daten einer einzelnen Person bereinigen, wie es bei einer klassischen Datenbank möglich wäre.

Was die EDPB dazu sagt

Der Europäische Datenschutzausschuss hat sich mit genau diesen Fragen in seiner Stellungnahme 28/2024 vom Dezember 2024 befasst, angestoßen durch eine Anfrage der irischen Datenschutzbehörde. Vier Kernaussagen sind für die Praxis relevant.

Erstens: Ein KI-Modell, das mit personenbezogenen Daten trainiert wurde, gilt nicht automatisch als anonym. Aufsichtsbehörden müssen im Einzelfall prüfen, ob eine Re-Identifizierung mit allen vernünftigerweise zur Verfügung stehenden Mitteln praktisch ausgeschlossen ist.

Zweitens: Berechtigtes Interesse kann grundsätzlich eine taugliche Rechtsgrundlage für die Entwicklungsphase eines KI-Modells sein, allerdings nur nach einem dreistufigen Test, bei dem das Interesse legitim und präzise benannt sein muss, die Verarbeitung erforderlich sein muss, und die Interessen des Verantwortlichen die Grundrechte der Betroffenen nicht überwiegen dürfen.

Drittens gilt für die Einsatzphase derselbe dreistufige Test, mit besonderem Gewicht auf den vernünftigen Erwartungen der Betroffenen, was mit ihren Daten geschieht.

Viertens, und das ist der Punkt mit der größten praktischen Sprengkraft: Eine rechtswidrige Verarbeitung in der Entwicklungsphase kann die Zulässigkeit der nachgelagerten Verarbeitung beeinflussen. Aufsichtsbehörden können Korrekturmaßnahmen anordnen, bis hin zur Löschung der unrechtmäßig verarbeiteten Daten, auch wenn diese längst im Modell verarbeitet wurden (EDPB Opinion 28/2024, Zusammenfassung; Volltext EDPB).

Fazit: zwei Entscheidungen, zwei Gewichtsklassen

Eine Gesprächsaufzeichnung einzuführen ist eine überschaubare Entscheidung, mit einer klaren Rechtsgrundlage und einem klaren Zweck. Sie später für das Training des eigenen Modells zweitzuverwerten ist ein Projekt, und zwar eines, das man sich vorher genau anschauen sollte, denn das ist ein ganz anderes Kaliber. Wer beides in einem Atemzug plant, unterschätzt in aller Regel den zweiten Schritt.