KI und Datenschutz: die rechtlichen Herausforderungen im Überblick

Künstliche Intelligenz lebt von Daten, und das Datenschutzrecht begrenzt deren Verarbeitung. In diesem Satz steckt ein strukturelles Spannungsverhältnis: KI-Systeme entfalten ihren Nutzen, je mehr Daten sie verarbeiten, während die DSGVO Datenminimierung, Zweckbindung und Speicherbegrenzung verlangt. Wer KI im Unternehmen einsetzt, bewegt sich deshalb nicht in einem rechtsfreien Raum, sondern an der Schnittstelle zweier Regelwerke, die nebeneinander gelten: der Datenschutz-Grundverordnung und der europäischen KI-Verordnung. Dieser Beitrag ordnet die rechtlichen Herausforderungen entlang der Felder, in denen sie sich konkret stellen – von der Rechtsgrundlage über Trainingsdaten und Transparenz bis zu automatisierten Entscheidungen und der Risikobewertung. Er ersetzt keine Rechtsberatung im Einzelfall, sondern schafft die Orientierung, die einer internen Linie oder Richtlinie vorausgehen sollte.

• Zwei Rechtsregime, ein Sachverhalt
• Die Rechtsgrundlage: ohne Erlaubnis keine Verarbeitung
• Trainingsdaten und der Mythos der Anonymität
• Transparenz und die Rechte der Betroffenen
• Automatisierte Entscheidungen: Artikel 22
• Wann eine Datenschutz-Folgenabschätzung Pflicht wird
• Auftragsverarbeitung und Drittland bei KI-Tools
• Eine Bereitschafts-Checkliste vor dem KI-Einsatz
• Häufige Fragen
• Fazit

#Zwei Rechtsregime, ein Sachverhalt

Der häufigste Verständnisknoten betrifft das Verhältnis der beiden Regelwerke. Sie verfolgen unterschiedliche Schutzrichtungen und knüpfen an unterschiedliche Sachverhalte an, gelten aber für denselben KI-Einsatz parallel. Die DSGVO schützt personenbezogene Daten und damit die Grundrechte der betroffenen Person; sie greift, sobald solche Daten verarbeitet werden. Die KI-Verordnung reguliert das Inverkehrbringen und den Betrieb von KI-Systemen nach Risikoklassen und schützt Sicherheit, Gesundheit und Grundrechte vor den Risiken der Technik selbst. Die folgende Gegenüberstellung ordnet die Unterschiede:

Die KI-Verordnung ist 2024 in Kraft getreten und gilt gestaffelt: Verbote bestimmter Praktiken und allgemeine Bestimmungen seit Anfang 2025, Pflichten für KI-Modelle mit allgemeinem Verwendungszweck und die Governance-Strukturen seit Mitte 2025, die gewichtigen Pflichten für Hochrisiko-Systeme zuletzt. Der genaue Zeitplan für diese Hochrisiko-Pflichten war zuletzt Gegenstand gesetzgeberischer Anpassung; die aktuell geltenden Fristen sollten daher vor einem konkreten Einsatz anhand offizieller Quellen geprüft werden. Für die meisten Unternehmen, die KI nicht selbst entwickeln, sondern einsetzen, bleibt die DSGVO der unmittelbarere Maßstab – sie greift unabhängig von der Risikoklasse, sobald personenbezogene Daten im Spiel sind.

Für die Praxis ist die Unterscheidung zwischen Anbieter und Betreiber entscheidend. Wer ein KI-System selbst entwickelt oder unter eigenem Namen bereitstellt, trägt als Anbieter die weitreichenderen Pflichten der KI-Verordnung. Wer ein fremdes System lediglich einsetzt, ist Betreiber und unterliegt schlankeren, aber nicht unerheblichen Anforderungen – etwa an die zweckgemäße Nutzung und, bei Hochrisiko-Systemen, an die menschliche Aufsicht. Datenschutzrechtlich bleibt der Betreiber dennoch in aller Regel Verantwortlicher im Sinne der DSGVO und trägt damit die volle Last der dort geregelten Pflichten – unabhängig davon, wie die KI-Verordnung seine Rolle einordnet.

#Die Rechtsgrundlage: ohne Erlaubnis keine Verarbeitung

Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage nach Artikel 6 DSGVO – auch dann, wenn sie durch ein KI-System erfolgt. Damit ist eine der häufigsten Fragen umrissen: Welche Rechtsgrundlage trägt den KI-Einsatz? In Betracht kommen vor allem die Einwilligung, die Erfüllung eines Vertrags und das berechtigte Interesse. Jede hat ihre Tücken im KI-Kontext.

Die Einwilligung muss freiwillig, informiert und für einen bestimmten Zweck erteilt sein. Gerade die Bestimmtheit ist schwierig, wenn der spätere Verwendungszweck der Daten in einem komplexen Modell nicht trennscharf benannt werden kann. Das berechtigte Interesse verlangt eine dreistufige Abwägung – ein tatsächliches, legitimes Interesse, dessen Erforderlichkeit und das Überwiegen gegenüber den Interessen der betroffenen Person. Der Europäische Datenschutzausschuss hat bestätigt, dass das berechtigte Interesse im KI-Kontext grundsätzlich tragen kann, dies aber von einer sorgfältigen, dokumentierten Abwägung abhängig gemacht.

Ein wiederkehrendes Kriterium bei der Abwägung ist die vernünftige Erwartung der betroffenen Person. Daten, die für einen bestimmten Zweck überlassen wurden, dürfen nicht ohne Weiteres in eine KI-Verarbeitung einfließen, mit der niemand rechnen musste. Im Beschäftigungskontext verschärft sich dies: Wegen des Abhängigkeitsverhältnisses zwischen Arbeitgeber und Arbeitnehmer gilt eine Einwilligung von Beschäftigten als rechtlich problematisch, und der Einsatz von KI zur Bewertung von Beschäftigten berührt zusätzlich mitbestimmungsrechtliche Fragen. Die Wahl der Rechtsgrundlage ist daher keine rein formale, sondern eine kontextabhängige Entscheidung.

Eine eigene Hürde errichten die besonderen Kategorien personenbezogener Daten nach Artikel 9 DSGVO – Gesundheit, politische Meinung, religiöse Überzeugung und weitere. Ihre Verarbeitung ist grundsätzlich untersagt und nur unter engen Ausnahmen zulässig. Da große Datenbestände solche Angaben oft unbeabsichtigt enthalten, ist bei KI-Anwendungen besondere Vorsicht geboten: Ein Modell, das versehentlich mit sensiblen Daten trainiert oder gefüttert wird, kann in einen Bereich geraten, für den schlicht keine Erlaubnis besteht.

#Trainingsdaten und der Mythos der Anonymität

Dürfen personenbezogene Daten zum Training von KI-Modellen verwendet werden? Die kurze Antwort: nicht ohne Rechtsgrundlage und nicht ohne Beachtung der Grundsätze aus Artikel 5 DSGVO. Hier zeigt sich das eingangs genannte Spannungsverhältnis am deutlichsten. Die Zweckbindung verlangt, dass Daten für festgelegte Zwecke erhoben und nicht beliebig weiterverwendet werden – während das Training eines Modells gerade darauf zielt, Daten über ihren ursprünglichen Kontext hinaus nutzbar zu machen. Die Datenminimierung steht dem Datenhunger großer Modelle entgegen.

Ein verbreiteter Irrtum lautet, das Problem lasse sich durch Anonymisierung umgehen. Der Europäische Datenschutzausschuss hat in seiner Stellungnahme 28/2024 zu KI-Modellen klargestellt, dass mit personenbezogenen Daten trainierte Modelle nicht ohne Weiteres als anonym gelten. Als anonym ist ein Modell erst dann einzustufen, wenn sowohl die Wahrscheinlichkeit, personenbezogene Daten direkt oder mit statistischen Mitteln aus dem Modell zu extrahieren, als auch die Wahrscheinlichkeit, solche Daten über Abfragen zu erhalten, vernachlässigbar gering ist. Diese Schwelle ist hoch, und die Aufsichtsbehörden bewerten Anonymitätsbehauptungen im Einzelfall unter Berücksichtigung aller Mittel, die vernünftigerweise zur Identifizierung eingesetzt werden könnten. Aus der Rechenschaftspflicht des Artikels 5 Absatz 2 folgt zudem, dass der Verantwortliche eine behauptete Anonymität belegen können muss.

Hinzu kommt eine Folgewirkung, die leicht übersehen wird: Eine unrechtmäßige Verarbeitung in der Entwicklungsphase kann auf den späteren Betrieb des Modells durchschlagen. Wurde ein Modell auf einer fehlenden oder fehlerhaften Rechtsgrundlage trainiert, ist die anschließende Nutzung nicht automatisch geheilt. Der Mangel an der Wurzel kann die gesamte Verarbeitungskette infizieren – ein Grund mehr, die Rechtsgrundlage nicht nachträglich, sondern vor dem Training zu klären und zu dokumentieren.

Praktisch heißt das: Wer Daten zum Training oder zur Anreicherung eines Modells nutzt, sollte den Personenbezug nicht vorschnell verneinen, die Rechtsgrundlage sauber bestimmen und die Verarbeitung an den Grundsätzen der Zweckbindung und Datenminimierung messen – nicht erst im Streitfall, sondern als Teil der Konzeption.

#Transparenz und die Rechte der Betroffenen

Die DSGVO verpflichtet zur Transparenz. Nach den Artikeln 13 und 14 müssen betroffene Personen darüber informiert werden, dass und zu welchem Zweck ihre Daten verarbeitet werden – einschließlich aussagekräftiger Informationen über die involvierte Logik bei bestimmten automatisierten Verfahren. Bei KI-Systemen stößt diese Pflicht auf ein praktisches Problem: Die Funktionsweise komplexer Modelle lässt sich nicht immer in einer für Laien verständlichen Weise erklären, ohne entweder zu stark zu vereinfachen oder Geschäftsgeheimnisse zu berühren. Die rechtliche Anforderung bleibt dennoch bestehen; sie verlangt eine verständliche Darstellung des Zwecks und der wesentlichen Logik, nicht die Offenlegung des gesamten Modells. Bewährt hat sich ein gestufter Ansatz, der die Kerninformationen knapp und allgemeinverständlich voranstellt und vertiefende Erläuterungen auf einer zweiten Ebene bereithält – so lässt sich die Transparenzpflicht erfüllen, ohne die betroffene Person mit technischen Details zu überfordern.

Hinzu kommen die Betroffenenrechte: Auskunft, Berichtigung, Löschung und Widerspruch. Sie sind im KI-Kontext besonders anspruchsvoll. Wie löscht man die Daten einer einzelnen Person aus einem bereits trainierten Modell? Wie berichtigt man eine fehlerhafte Angabe, die in Modellgewichte eingeflossen ist? Befriedigende technische Antworten existieren nicht immer, doch die rechtliche Pflicht entbindet nicht, weil die Umsetzung schwierig ist. Wer KI einsetzt, muss die Erfüllung dieser Rechte von vornherein mitdenken – etwa durch die Trennung von Trainings- und Betriebsdaten oder durch Verfahren, die einen Personenbezug erst gar nicht dauerhaft im Modell verankern.

#Automatisierte Entscheidungen: Artikel 22

Ein eigenes Augenmerk verdient Artikel 22 DSGVO. Er gibt der betroffenen Person das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Was regelt Artikel 22 also? Im Kern beschränkt er vollautomatisierte Entscheidungen mit gravierenden Folgen und erlaubt sie nur in bestimmten Konstellationen, etwa mit ausdrücklicher Einwilligung oder auf vertraglicher Grundlage, und dann flankiert von Schutzmaßnahmen wie dem Recht auf menschliches Eingreifen.

Für den KI-Einsatz ist das hochrelevant, weil viele attraktive Anwendungsfälle – Bonitätsprüfung, Bewerbervorauswahl, Betrugserkennung – genau in diesen Bereich fallen. Entscheidend ist die Frage, ob eine Entscheidung tatsächlich „ausschließlich" automatisiert erfolgt. Eine lediglich formale Beteiligung eines Menschen, der den Vorschlag des Systems ohne eigene Prüfung bestätigt, genügt nicht, um den Anwendungsbereich zu verlassen. Eine echte, inhaltliche menschliche Kontrolle ist sowohl rechtliche Anforderung als auch gute Praxis – und sie überschneidet sich mit den Anforderungen der KI-Verordnung an die menschliche Aufsicht bei Hochrisiko-Systemen.

#Wann eine Datenschutz-Folgenabschätzung Pflicht wird

Artikel 35 DSGVO verlangt eine Datenschutz-Folgenabschätzung, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen mit sich bringt – insbesondere bei Einsatz neuer Technologien. KI-Anwendungen, die in großem Umfang personenbezogene Daten verarbeiten, betroffene Personen systematisch bewerten oder besondere Kategorien von Daten betreffen, erfüllen diese Schwelle regelmäßig. Wann also ist eine Datenschutz-Folgenabschätzung nötig? Immer dann, wenn das Risiko der konkreten Anwendung hoch ist; im Zweifel spricht bei KI-Systemen vieles für ihre Durchführung.

Die Folgenabschätzung ist kein Formalakt, sondern ein strukturierter Prozess: Beschreibung der Verarbeitung, Bewertung von Erforderlichkeit und Verhältnismäßigkeit, Analyse der Risiken und Festlegung von Abhilfemaßnahmen. Sie greift idealerweise ineinander mit der Risikobewertung, die die KI-Verordnung für Hochrisiko-Systeme verlangt – beide Prozesse betrachten verwandte Risiken aus unterschiedlichem Blickwinkel und lassen sich aufeinander abstimmen, statt sie getrennt zu führen.

#Auftragsverarbeitung und Drittland bei KI-Tools

Die meisten Unternehmen entwickeln keine KI, sondern nutzen fremde Dienste – häufig cloudbasierte Werkzeuge wie große Sprachmodelle. Daraus folgt eine praktische Frage: Brauche ich einen Auftragsverarbeitungsvertrag? In aller Regel ja. Sobald ein externer Anbieter personenbezogene Daten weisungsgebunden für Sie verarbeitet, verlangt Artikel 28 DSGVO einen Auftragsverarbeitungsvertrag als Grundlage. Bei der Eingabe vertraulicher oder personenbezogener Daten in ein cloudbasiertes KI-Tool ist daher zu klären, in welcher Rolle der Anbieter handelt und ob er die eingegebenen Daten seinerseits zu eigenen Zwecken – etwa zum Training – verwendet.

Hinzu kommt die geografische Dimension. Verlassen die Daten den Europäischen Wirtschaftsraum, greifen die Artikel 44 ff. DSGVO über die Drittlandübermittlung, mit den bekannten Anforderungen an Angemessenheitsbeschluss oder geeignete Garantien. Viele KI-Dienste werden außerhalb der EU betrieben, weshalb der Serverstandort und die Vertragslage vor der Nutzung zu prüfen sind. Die zugrunde liegenden Pflichten zur sicheren und rechtskonformen Übermittlung beschreibt der Beitrag Personenbezogene Daten sicher versenden: Was die DSGVO verlangt; sie gelten unverändert, wenn das Ziel der Übermittlung ein KI-Dienst ist.

#Eine Bereitschafts-Checkliste vor dem KI-Einsatz

Die folgende kurze Liste fasst die datenschutzrechtlichen Punkte zusammen, die vor der Einführung eines KI-Werkzeugs zu klären sind. Sie ersetzt keine vollständige Prüfung, ordnet aber die wichtigsten Fragen:

• Werden überhaupt personenbezogene Daten verarbeitet – und lässt sich der Personenbezug vermeiden oder reduzieren?
• Welche Rechtsgrundlage trägt die Verarbeitung, und ist die Abwägung beim berechtigten Interesse dokumentiert?
• Sind besondere Kategorien personenbezogener Daten betroffen, und liegt dafür eine Ausnahme vor?
• Ist die Transparenzpflicht erfüllt und sind die Betroffenenrechte praktisch umsetzbar?
• Liegt eine ausschließlich automatisierte Entscheidung im Sinne des Artikels 22 vor, und ist eine echte menschliche Kontrolle gewährleistet?
• Wurde geprüft, ob eine Datenschutz-Folgenabschätzung erforderlich ist?
• Bestehen ein Auftragsverarbeitungsvertrag und eine tragfähige Grundlage für eine etwaige Drittlandübermittlung?

Bleibt ein Punkt offen, gehört er geklärt, bevor das Werkzeug produktiv mit echten Daten arbeitet.

#Häufige Fragen

Ist der Einsatz von KI mit der DSGVO vereinbar? Ja, sofern die Verarbeitung auf einer Rechtsgrundlage beruht, die Grundsätze des Artikels 5 eingehalten werden und die Betroffenenrechte gewahrt bleiben. Die DSGVO verbietet KI nicht, stellt aber Bedingungen.

Dürfen personenbezogene Daten zum Training verwendet werden? Nur mit Rechtsgrundlage und unter Beachtung von Zweckbindung und Datenminimierung. Anonymität ist kein einfacher Ausweg, da mit personenbezogenen Daten trainierte Modelle nicht ohne Weiteres als anonym gelten.

Brauche ich einen Auftragsverarbeitungsvertrag für cloudbasierte KI-Tools? In der Regel ja, sobald der Anbieter personenbezogene Daten weisungsgebunden für Sie verarbeitet. Zu prüfen ist zudem, ob der Anbieter die Daten zu eigenen Zwecken nutzt.

Was regelt Artikel 22 DSGVO? Er beschränkt ausschließlich automatisierte Entscheidungen mit erheblicher Wirkung und verlangt in den zulässigen Fällen Schutzmaßnahmen, insbesondere das Recht auf menschliches Eingreifen.

Wann ist eine Datenschutz-Folgenabschätzung nötig? Wenn die Verarbeitung voraussichtlich ein hohes Risiko mit sich bringt, etwa bei umfangreicher Verarbeitung, systematischer Bewertung oder neuen Technologien – bei KI also häufig.

Gilt die KI-Verordnung zusätzlich zur DSGVO? Ja. Beide Regelwerke gelten parallel. Die KI-Verordnung ergänzt die DSGVO um eine risikoklassenbasierte Produktregulierung, ersetzt sie aber nicht.

#Fazit

Der Einsatz von KI ist datenschutzrechtlich nicht verboten, aber voraussetzungsvoll. Die rechtlichen Herausforderungen verteilen sich auf klar benennbare Felder: die Rechtsgrundlage, den Umgang mit Trainingsdaten und der Anonymitätsfrage, die Transparenz und die Betroffenenrechte, die Grenzen automatisierter Entscheidungen, die Pflicht zur Folgenabschätzung und die Konstellationen der Auftragsverarbeitung und Drittlandübermittlung. Über allem steht das Verhältnis zweier paralleler Regime – der DSGVO und der KI-Verordnung –, die denselben Einsatz aus unterschiedlichen Blickwinkeln regeln.

Wer diese Felder früh und systematisch prüft, statt sie nach einer Beanstandung nachzuziehen, verschafft sich nicht nur Rechtssicherheit, sondern auch die Grundlage für einen verantwortungsvollen Einsatz der Technik. Datenschutz ist dabei kein Hindernis für KI, sondern die Bedingung, unter der sie im Unternehmen tragfähig wird – und zugleich ein Wettbewerbsvorteil gegenüber einem unbedachten Einsatz.