De impact van de AI-Verordening
Door: Wendy Grooten
Inleiding
In 2024 is de AI-Verordening in werking getreden. Het doel van deze verordening is om de interne markt te verbeteren en de toepassing van mensgerichte en betrouwbare AI te bevorderen, en tegelijkertijd een hoog niveau van bescherming van de gezondheid, veiligheid en grondrechten te waarborgen tegen de schadelijke gevolgen van AI-systemen in de Europese Unie. Dit blijkt uit het eerste artikel van de AI-Verordening. AI biedt immers mogelijkheden, maar kan ook zorgen voor onder andere misleiding, beperkingen van onze vrijheden of discriminatie. Hoewel nog niet alle bepalingen uit deze verordening van toepassing zijn (hier krijgen landen immers een bepaalde periode voor), is het goed om te kijken naar wat voor veranderingen deze verordening zal meebrengen voor Nederland.
Risicogebaseerde aanpak
Er wordt met deze verordening dus een evenwicht gezocht in enerzijds innovatie en anderzijds veiligheid. Dit evenwicht wordt ingevuld door een risicogebaseerde aanpak. AI-systemen worden ingedeeld in 4 categorieën.
De eerste categorie bevat systemen waarvan het gebruik ervan een onacceptabel risico oplevert. Deze worden daarom verboden. Denk bijvoorbeeld aan artificiële intelligentie die bedoeld is om mensen te misleiden, waardoor zij een besluit nemen dat ze anders niet hadden genomen.1 Niet alle systemen zijn echter geheel verboden. Een aantal is in beginsel verboden, maar mag in slechts uitzonderlijke gevallen worden gebruikt. Een voorbeeld hiervan is het gebruik van gezichtsherkenningstechnologie in openbare ruimten in real-time. Dit houdt in dat iemand op het moment zelf geïdentificeerd kan worden. Dit mag alleen gebruikt worden bij bijvoorbeeld het zoeken naar een specifiek slachtoffer van een ontvoering of mensenhandel.2
De tweede categorie bevat systemen waarvan het gebruik een hoog risico oplevert. Dit houdt in dat het AI-systeem wel gebruikt mag worden, maar dat daarbij aan strenge voorwaarden moet worden voldaan. Zo moeten ze op zodanige wijze worden ontworpen en ontwikkeld dat de werking ervan voldoende transparant is om de gebruiksverantwoordelijke in staat te stellen de output van een systeem te interpreteren en op passende wijze te gebruiken.3 Ook is bij het gebruik ervan menselijk toezicht vereist.4
De derde categorie bevat systemen waarvan het gebruik ervan een beperkt risico oplevert. Hiervoor bevat de AI-Verordening enkele transparantieverplichtingen, zodat mensen weten dat artificiële intelligentie wordt gebruikt.
De vierde categorie bevat systemen waarvan het gebruik een laag risico oplevert. Voorbeelden hiervan zijn AI-gedreven personages in videogames of spamfilters.
Het gevolg van de AI-Verordening
AI-systemen die op dit moment in gebruik zijn, zullen uiteindelijk aan de regels uit de verordening moeten voldoen. Dit houdt bijvoorbeeld in dat wanneer een bedrijf artificiële intelligentie gebruikt om sollicitaties te beoordelen, dat bedrijf sollicitanten moet informeren over het feit dat het AI-systeem gebruikt wordt bij de beoordeling. Daarbij moet worden uitgelegd hoe die beoordeling in zijn werk gaat, wat de criteria zijn die gebruikt worden en wat de mogelijke gevolgen daarvan zijn.
Verder moeten er toezichthouders worden aangewezen die zorgen dat de verordening wordt nageleefd. Zij krijgen daarbij bevoegdheden als boetes opleggen of organisaties verplichten een product uit de handel te nemen. Ook moet aan hen een melding worden gemaakt wanneer het AI-systeem fouten maakt met ernstige gevolgen voor mensen. Bijvoorbeeld wanneer het AI-systeem dat gebruikt wordt voor de beoordeling van sollicitanten systematisch bepaalde groepen mensen uitsluit.
De verordening geldt voor alle organisaties die AI ontwikkelen of gebruiken. Niet alleen de overheid, maar ook grote en kleine bedrijven zijn verplicht zich aan de regels te houden. Als een organisatie een AI-systeem ontwikkelt of gebruikt, is het diens verantwoordelijkheid om te zorgen dat het aan deze regels voldoet.
Conclusie
De AI-Verordening maakt een belangrijke stap richting het veilig, transparant en verantwoord gebruik van artificiële intelligentie in de Europese Unie. Door de risicogebaseerde aanpak wordt voor verschillende AI-systemen een passend juridisch kader gecreëerd voor zowel ontwikkelaars als gebruikers van het systeem. Organisaties in Nederland zullen ervoor moeten zorgen dat zij in de toekomst gaan voldoen aan de regels die deze verordening met zich meebrengt. Dit draagt bij aan een betrouwbare digitale samenleving, waarbij zowel innovatie als de bescherming van grondrechten een plek krijgen.
Heb jij vragen over wat de AI-verordening voor jou gaat betekenen? Of heb je andere vragen op het gebied van IT-recht? De IT-rechtswinkel staat klaar om je te helpen!