AI en gegevensbescherming: de juridische uitdagingen op een rij

Kunstmatige intelligentie leeft van gegevens, en het gegevensbeschermingsrecht begrenst de verwerking ervan. In die zin schuilt een structurele spanning: AI-systemen ontvouwen hun nut naarmate ze meer gegevens verwerken, terwijl de AVG minimale gegevensverwerking, doelbinding en opslagbeperking vereist. Wie AI in een onderneming inzet, beweegt zich daarom niet in een rechtsvrije ruimte, maar op het snijvlak van twee kaders die naast elkaar gelden: de Algemene verordening gegevensbescherming en de Europese AI-verordening. Dit artikel zet de juridische uitdagingen uiteen langs de velden waarin zij zich concreet voordoen – van de rechtsgrondslag via trainingsgegevens en transparantie tot geautomatiseerde besluiten en risicobeoordeling. Het vervangt geen juridisch advies in het concrete geval, maar biedt de oriëntatie die aan een intern beleid of een richtlijn vooraf zou moeten gaan.

• Twee rechtsregimes, één situatie
• De rechtsgrondslag: geen verwerking zonder grondslag
• Trainingsgegevens en de mythe van de anonimiteit
• Transparantie en de rechten van betrokkenen
• Geautomatiseerde besluiten: artikel 22
• Wanneer een gegevensbeschermingseffectbeoordeling verplicht wordt
• Verwerking in opdracht en derde landen bij AI-tools
• Een gereedheidschecklist vóór de inzet van AI
• Veelgestelde vragen
• Conclusie

#Twee rechtsregimes, één situatie

Het vaakst voorkomende knelpunt betreft de verhouding tussen de twee kaders. Zij streven verschillende beschermingsdoelen na en knopen aan bij verschillende feiten, maar gelden parallel voor dezelfde AI-inzet. De AVG beschermt persoonsgegevens en daarmee de grondrechten van de betrokkene; zij grijpt zodra zulke gegevens worden verwerkt. De AI-verordening reguleert het in de handel brengen en het gebruik van AI-systemen naar risicoklassen en beschermt veiligheid, gezondheid en grondrechten tegen de risico's van de techniek zelf. De volgende vergelijking ordent de verschillen:

De AI-verordening is in 2024 in werking getreden en geldt gefaseerd: verboden van bepaalde praktijken en algemene bepalingen sinds begin 2025, verplichtingen voor AI-modellen voor algemene doeleinden en de governancestructuren sinds medio 2025, en de zwaarwegende verplichtingen voor systemen met een hoog risico als laatste. Het precieze tijdpad voor deze verplichtingen voor een hoog risico was recent onderwerp van wetgevende aanpassing; de thans geldende termijnen moeten daarom vóór een concrete inzet aan officiële bronnen worden getoetst. Voor de meeste ondernemingen die AI niet ontwikkelen maar gebruiken, blijft de AVG de meer directe maatstaf – zij geldt ongeacht de risicoklasse, zodra persoonsgegevens in het spel zijn.

Voor de praktijk is het onderscheid tussen aanbieder en gebruiksverantwoordelijke beslissend. Wie een AI-systeem zelf ontwikkelt of onder eigen naam in de handel brengt, draagt als aanbieder de verdergaande verplichtingen van de AI-verordening. Wie een systeem van derden enkel gebruikt, is gebruiksverantwoordelijke en valt onder slankere, maar niet onbelangrijke eisen – bijvoorbeeld aan het gebruik overeenkomstig het beoogde doel en, bij systemen met een hoog risico, aan het menselijk toezicht. Gegevensbeschermingsrechtelijk blijft de gebruiksverantwoordelijke evenwel doorgaans verwerkingsverantwoordelijke in de zin van de AVG en draagt hij daarmee de volle last van de daar geregelde plichten – ongeacht hoe de AI-verordening zijn rol indeelt.

#De rechtsgrondslag: geen verwerking zonder grondslag

Elke verwerking van persoonsgegevens heeft een rechtsgrondslag nodig op grond van artikel 6 AVG – ook wanneer zij door een AI-systeem plaatsvindt. Daarmee is een van de meest gestelde vragen geschetst: welke rechtsgrondslag draagt de AI-inzet? In aanmerking komen vooral toestemming, de uitvoering van een overeenkomst en het gerechtvaardigd belang. Elk heeft zijn haken en ogen in de AI-context.

Toestemming moet vrijelijk, geïnformeerd en voor een bepaald doel zijn gegeven. Juist de bepaaldheid is lastig wanneer het latere gebruiksdoel van de gegevens binnen een complex model niet scherp kan worden benoemd. Het gerechtvaardigd belang vereist een afweging in drie stappen – een werkelijk, legitiem belang, de noodzaak van de verwerking en het prevaleren ervan boven de belangen van de betrokkene. Het Europees Comité voor gegevensbescherming heeft bevestigd dat het gerechtvaardigd belang in de AI-context in beginsel kan dragen, maar heeft dit afhankelijk gesteld van een zorgvuldige, gedocumenteerde afweging.

Een terugkerend criterium bij de afweging is de redelijke verwachting van de betrokkene. Gegevens die voor een bepaald doel zijn verstrekt, mogen niet zonder meer in een AI-verwerking vloeien waarmee niemand rekening hoefde te houden. In de arbeidscontext scherpt dit aan: wegens de afhankelijkheidsverhouding tussen werkgever en werknemer geldt toestemming van werknemers als juridisch problematisch, en de inzet van AI om werknemers te beoordelen raakt bovendien medezeggenschapsrechtelijke vragen. De keuze van de rechtsgrondslag is daarom geen louter formele, maar een contextafhankelijke beslissing.

Een eigen drempel werpen de bijzondere categorieën persoonsgegevens op grond van artikel 9 AVG op – gezondheid, politieke opvatting, religieuze overtuiging en andere. Hun verwerking is in beginsel verboden en slechts onder strikte uitzonderingen toegestaan. Omdat grote gegevensbestanden zulke gegevens vaak onbedoeld bevatten, is bij AI-toepassingen bijzondere voorzichtigheid geboden: een model dat per ongeluk met gevoelige gegevens wordt getraind of gevoed, kan terechtkomen in een domein waarvoor eenvoudigweg geen grondslag bestaat.

#Trainingsgegevens en de mythe van de anonimiteit

Mogen persoonsgegevens worden gebruikt om AI-modellen te trainen? Het korte antwoord: niet zonder rechtsgrondslag en niet zonder inachtneming van de beginselen van artikel 5 AVG. Hier toont zich de eerder genoemde spanning het duidelijkst. De doelbinding vereist dat gegevens voor welbepaalde doeleinden worden verzameld en niet willekeurig worden hergebruikt – terwijl het trainen van een model er juist op gericht is gegevens bruikbaar te maken buiten hun oorspronkelijke context. De minimale gegevensverwerking staat tegenover de gegevenshonger van grote modellen.

Een wijdverbreide misvatting houdt in dat het probleem via anonimisering kan worden omzeild. Het Europees Comité voor gegevensbescherming heeft in zijn Advies 28/2024 over AI-modellen verduidelijkt dat met persoonsgegevens getrainde modellen niet zonder meer als anoniem gelden. Een model is pas als anoniem aan te merken wanneer zowel de waarschijnlijkheid om persoonsgegevens rechtstreeks of met statistische middelen uit het model te extraheren, als de waarschijnlijkheid om zulke gegevens via bevragingen te verkrijgen, verwaarloosbaar gering is. Deze drempel is hoog, en de toezichthoudende autoriteiten beoordelen beweringen van anonimiteit per geval, rekening houdend met alle middelen die redelijkerwijs voor identificatie kunnen worden ingezet. Uit de verantwoordingsplicht van artikel 5, lid 2 volgt bovendien dat de verwerkingsverantwoordelijke een beweerde anonimiteit moet kunnen aantonen.

Daar komt een doorwerking bij die gemakkelijk over het hoofd wordt gezien: een onrechtmatige verwerking in de ontwikkelingsfase kan doorwerken naar het latere gebruik van het model. Is een model getraind op een ontbrekende of gebrekkige rechtsgrondslag, dan is het daaropvolgende gebruik niet automatisch geheeld. Het gebrek bij de wortel kan de hele verwerkingsketen infecteren – een reden te meer om de rechtsgrondslag niet achteraf, maar vóór de training op te helderen en te documenteren.

In de praktijk betekent dit: wie gegevens gebruikt om een model te trainen of te verrijken, moet de herleidbaarheid tot personen niet overhaast ontkennen, de rechtsgrondslag zuiver bepalen en de verwerking toetsen aan de beginselen van doelbinding en minimale gegevensverwerking – niet pas bij een geschil, maar als onderdeel van het ontwerp.

#Transparantie en de rechten van betrokkenen

De AVG verplicht tot transparantie. Op grond van de artikelen 13 en 14 moeten betrokkenen worden geïnformeerd dat en voor welk doel hun gegevens worden verwerkt – met inbegrip van zinvolle informatie over de betrokken logica bij bepaalde geautomatiseerde procedures. Bij AI-systemen stuit deze plicht op een praktisch probleem: de werking van complexe modellen laat zich niet altijd op een voor leken begrijpelijke wijze uitleggen zonder ofwel te sterk te vereenvoudigen ofwel bedrijfsgeheimen te raken. De juridische eis blijft niettemin bestaan; zij vraagt om een begrijpelijke weergave van het doel en de wezenlijke logica, niet om openbaarmaking van het hele model.

Daar komen de rechten van betrokkenen bij: inzage, rectificatie, wissing en bezwaar. Zij zijn in de AI-context bijzonder veeleisend. Hoe wist men de gegevens van één persoon uit een reeds getraind model? Hoe corrigeert men een onjuist gegeven dat in modelgewichten is gevloeid? Bevredigende technische antwoorden bestaan niet altijd, maar de juridische plicht vervalt niet omdat de uitvoering moeilijk is. Wie AI inzet, moet de vervulling van deze rechten van meet af aan meedenken – bijvoorbeeld door training- en bedrijfsgegevens te scheiden, of via methoden die een herleidbaarheid tot personen niet duurzaam in het model verankeren.

#Geautomatiseerde besluiten: artikel 22

Artikel 22 AVG verdient bijzondere aandacht. Het geeft de betrokkene het recht niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking – met inbegrip van profilering – gebaseerd besluit dat rechtsgevolgen voor hem heeft of hem op vergelijkbare wijze aanmerkelijk treft. Wat regelt artikel 22 dus? In de kern beperkt het volledig geautomatiseerde besluiten met ingrijpende gevolgen en staat het deze slechts in bepaalde constellaties toe, zoals met uitdrukkelijke toestemming of op contractuele grondslag, en dan geflankeerd door waarborgen zoals het recht op menselijke tussenkomst.

Voor de AI-inzet is dat zeer relevant, omdat veel aantrekkelijke toepassingen – kredietbeoordeling, voorselectie van sollicitanten, fraudedetectie – juist in dit domein vallen. Beslissend is de vraag of een besluit werkelijk "uitsluitend" geautomatiseerd tot stand komt. Een louter formele betrokkenheid van een mens die het voorstel van het systeem zonder eigen toetsing bevestigt, volstaat niet om het toepassingsbereik te verlaten. Een werkelijke, inhoudelijke menselijke controle is zowel een juridische eis als goede praktijk – en zij overlapt met de eisen van de AI-verordening aan het menselijk toezicht bij systemen met een hoog risico.

#Wanneer een gegevensbeschermingseffectbeoordeling verplicht wordt

Artikel 35 AVG vereist een gegevensbeschermingseffectbeoordeling wanneer een verwerking waarschijnlijk een hoog risico inhoudt voor de rechten en vrijheden van natuurlijke personen – in het bijzonder bij gebruik van nieuwe technologieën. AI-toepassingen die op grote schaal persoonsgegevens verwerken, betrokkenen stelselmatig beoordelen of bijzondere categorieën gegevens betreffen, halen deze drempel geregeld. Wanneer is een gegevensbeschermingseffectbeoordeling dus nodig? Telkens wanneer het risico van de concrete toepassing hoog is; bij AI-systemen pleit bij twijfel veel voor de uitvoering ervan.

De effectbeoordeling is geen formaliteit, maar een gestructureerd proces: beschrijving van de verwerking, beoordeling van noodzaak en evenredigheid, analyse van de risico's en vaststelling van maatregelen om die te ondervangen. Zij grijpt idealiter in elkaar met de risicobeoordeling die de AI-verordening voor systemen met een hoog risico vereist – beide processen bekijken verwante risico's vanuit een verschillende invalshoek en laten zich op elkaar afstemmen in plaats van afzonderlijk te worden gevoerd.

#Verwerking in opdracht en derde landen bij AI-tools

De meeste ondernemingen ontwikkelen geen AI, maar gebruiken diensten van derden – vaak cloudgebaseerde hulpmiddelen zoals grote taalmodellen. Daaruit volgt een praktische vraag: heb ik een verwerkersovereenkomst nodig? In de regel wel. Zodra een externe aanbieder persoonsgegevens volgens uw instructies verwerkt, vereist artikel 28 AVG een verwerkersovereenkomst als grondslag. Bij het invoeren van vertrouwelijke of persoonsgegevens in een cloudgebaseerd AI-tool moet daarom worden opgehelderd in welke rol de aanbieder handelt en of hij de ingevoerde gegevens op zijn beurt voor eigen doeleinden – zoals training – gebruikt.

Daar komt de geografische dimensie bij. Verlaten de gegevens de Europese Economische Ruimte, dan gelden de artikelen 44 e.v. AVG over de doorgifte naar derde landen, met de bekende eisen van een adequaatheidsbesluit of passende waarborgen. Veel AI-diensten worden buiten de EU geëxploiteerd, en daarom moeten de serverlocatie en de contractuele situatie vóór gebruik worden getoetst. De onderliggende plichten tot veilige en rechtmatige doorgifte beschrijft het artikel Persoonsgegevens veilig versturen: wat de AVG vereist; zij gelden onveranderd wanneer de bestemming van de doorgifte een AI-dienst is.

#Een gereedheidschecklist vóór de inzet van AI

De volgende korte lijst vat de gegevensbeschermingsrechtelijke punten samen die vóór de invoering van een AI-hulpmiddel moeten worden opgehelderd. Zij vervangt geen volledige toetsing, maar ordent de belangrijkste vragen:

• Worden er überhaupt persoonsgegevens verwerkt – en laat de herleidbaarheid tot personen zich vermijden of verminderen?
• Welke rechtsgrondslag draagt de verwerking, en is de afweging bij het gerechtvaardigd belang gedocumenteerd?
• Zijn bijzondere categorieën persoonsgegevens betrokken, en bestaat daarvoor een uitzondering?
• Is de transparantieplicht vervuld en zijn de rechten van betrokkenen praktisch uitvoerbaar?
• Is er een uitsluitend geautomatiseerd besluit in de zin van artikel 22, en is werkelijke menselijke controle gewaarborgd?
• Is getoetst of een gegevensbeschermingseffectbeoordeling vereist is?
• Bestaan er een verwerkersovereenkomst en een deugdelijke grondslag voor een eventuele doorgifte naar een derde land?

Blijft een punt open, dan hoort het te worden opgehelderd voordat het hulpmiddel productief met echte gegevens werkt.

#Veelgestelde vragen

Is het gebruik van AI verenigbaar met de AVG? Ja, mits de verwerking op een rechtsgrondslag berust, de beginselen van artikel 5 in acht worden genomen en de rechten van betrokkenen worden gewaarborgd. De AVG verbiedt AI niet, maar stelt voorwaarden.

Mogen persoonsgegevens voor training worden gebruikt? Alleen met een rechtsgrondslag en met inachtneming van doelbinding en minimale gegevensverwerking. Anonimiteit is geen eenvoudige uitweg, aangezien met persoonsgegevens getrainde modellen niet zonder meer als anoniem gelden.

Heb ik een verwerkersovereenkomst nodig voor cloudgebaseerde AI-tools? In de regel wel, zodra de aanbieder persoonsgegevens volgens uw instructies verwerkt. Ook moet worden getoetst of de aanbieder de gegevens voor eigen doeleinden gebruikt.

Wat regelt artikel 22 AVG? Het beperkt uitsluitend geautomatiseerde besluiten met aanmerkelijke gevolgen en vereist in de toegestane gevallen waarborgen, in het bijzonder het recht op menselijke tussenkomst.

Wanneer is een gegevensbeschermingseffectbeoordeling nodig? Wanneer de verwerking waarschijnlijk een hoog risico inhoudt, bijvoorbeeld bij grootschalige verwerking, stelselmatige beoordeling of nieuwe technologieën – bij AI dus vaak.

Geldt de AI-verordening naast de AVG? Ja. Beide kaders gelden parallel. De AI-verordening vult de AVG aan met een op risicoklassen gebaseerde productregulering, maar vervangt haar niet.

#Conclusie

Het gebruik van AI is gegevensbeschermingsrechtelijk niet verboden, maar wel voorwaardelijk. De juridische uitdagingen verdelen zich over duidelijk benoembare velden: de rechtsgrondslag, de omgang met trainingsgegevens en de anonimiteitsvraag, de transparantie en de rechten van betrokkenen, de grenzen van geautomatiseerde besluiten, de plicht tot een effectbeoordeling en de constellaties van verwerking in opdracht en doorgifte naar derde landen. Boven dit alles staat de verhouding van twee parallelle regimes – de AVG en de AI-verordening – die dezelfde inzet vanuit verschillende invalshoeken reguleren.

Wie deze velden vroeg en stelselmatig toetst, in plaats van ze na een klacht alsnog in orde te brengen, verschaft zich niet alleen rechtszekerheid, maar ook de grondslag voor een verantwoord gebruik van de techniek. Gegevensbescherming is daarbij geen hindernis voor AI, maar de voorwaarde waaronder zij in een onderneming houdbaar wordt.