Met de inwerkingtreding van de AI-verordening betreedt Europa een nieuw terrein: het is de eerste verordening ter wereld die kunstmatige intelligentie (AI) op uitgebreide wijze reguleert. Brussel wordt vaak verweten dat het achter de feiten aanholt. Dat was bijvoorbeeld het geval als het gaat over internettechnologie, online platforms en deeleconomie. Deze keer heeft Brussel echter proactief gekozen voor strikte regulering. Enerzijds biedt dit meteen de nodige duidelijkheid, maar anderzijds stelt het bedrijven voor nieuwe uitdagingen op het gebied van naleving en toezicht.
AI-verordening en risicocategorieën
De AI-verordening richt zich op het veilig en verantwoord gebruik van AI in Europa, met het oog op het beschermen van fundamentele rechten en publieke veiligheid. AI-systemen worden daarbij ingedeeld in risicocategorieën. De AI Act benoemt onder meer AI-toepassingen die een groot risico op misleiding hebben, bijvoorbeeld omdat ze deepfakes kunnen maken. Bij dergelijke toepassingen moet het duidelijk zijn dat het niet om echte beelden gaat. Ook bij het inzetten van chatbots moet bijvoorbeeld duidelijk worden gemaakt dat men niet spreekt met een echt persoon.
Daarnaast zijn er de AI-toepassingen met een hoog risico. Het gaat bijvoorbeeld om toepassingen die worden gebruikt om te beoordelen of studenten tot een bepaalde opleiding worden toegelaten. Een ander voorbeeld: AI-toepassingen die worden gebruikt om kandidaten voor een vacature te beoordelen. Tot slot heeft men het over verboden praktijken. Het gaat dan bijvoorbeeld om AI-tools die worden gebruikt voor schadelijke manipulatie.
Tot slot zijn er de laagrisico-AI-toepassingen die niet onder een van deze categorieën vallen. Deze zijn gewoon toegestaan en worden niet bijzonder strikt gereglementeerd, omdat de risico’s erg klein zijn of zelfs onbestaande. Natuurlijk mag men wel altijd zelf een AI-gedragscode hiervoor opstellen, maar dit is niet verplicht.
Verplichtingen voor de makers van AI-modellen
Wie een AI-model maakt, moet rekening houden met een aantal verplichtingen. Voor de grootste modellen is het bijvoorbeeld verplicht om de systeemrisico’s in kaart te brengen. Daarnaast moet men acties ondernemen om het auteursrecht te beschermen en moet voldoende informatie worden gegeven, zodat gebruikers erop kunnen vertrouwen dat het model veilig is. Voor toepassingen met een hoog risico geldt onder meer dat men systeemactiviteiten moet loggen en menselijk toezicht mogelijk moet maken. Er moet ook kunnen worden aangetoond dat aan de verplichtingen is voldaan. De toepassingen met een onaanvaardbaar risico worden dan weer geheel verboden.
Er zal ook toezicht worden gehouden op de bepalingen van de AI-verordening. Het probleem is dat dit heel complex is en dat de risico’s per toepassing kunnen verschillen. Een AI-systeem voor het maken van afbeeldingen heeft andere risico’s dan AI in kinderspeelgoed. Daarom adviseren de AP (Autoriteit Persoonsgegevens) en de RD (Rijksinspectie Digitale Infrastructuur) in hun eindadvies om dit sectoraal aan te pakken. Het toezicht moet daarbij zoveel mogelijk aansluiten bij het reguliere toezicht. De bestaande CE-markering bij consumentenproducten zal dan aantonen dat ook aan de bepalingen van de AI-verordening is voldaan. Het toezicht op deze producten blijft bovendien bij dezelfde toezichthouder liggen.
Geleidelijke invoering van de regels
De AI-verordening wordt in fases ingevoerd, waardoor bedrijven de tijd krijgen om zich aan te passen aan de nieuwe regels. In augustus 2024 is de AI-verordening officieel in werking getreden, maar in de praktijk zal het allemaal heel gefaseerd verlopen. Allereerst treden de bepalingen over de verboden praktijken in werking (februari 2025). Daarna zullen diverse andere bepalingen stap voor stap in werking treden, zodat ondernemers zich voldoende kunnen voorbereiden.
Het is voor de betrokken bedrijven in ieder geval belangrijk om zich nu al te oriënteren, zeker wat betreft de AI-systemen die ze ontwikkelen. Hierbij kunnen bedrijven nu al beginnen met het opstellen van een plan voor de naleving van de wetgeving, zoals het implementeren van de transparantievereisten voor bepaalde AI-toepassingen. Indien u hierbij juridisch advies nodig hebt of meer wilt weten over de concrete gevolgen van de AI-verordening, staan onze experts voor u klaar.
