De Europese Commissie heeft eind april een voorstel voor een verordening gepresenteerd. Hierbij wordt voor het eerst een regelgevend kader voor artificiële intelligentie gecreëerd. De conceptverordening viseert alle partijen, publiek of privaat, die binnen en buiten de EU AI-systemen in de handel brengen of AI-systemen gebruiken die impact hebben op Europese burgers. Het is een conceptverordening en het is nog niet definitief, maar het toont wel aan dat het Brussel menens is.
AI is al lang niet meer ongewoon
AI, artificiële intelligentie of kunstmatige intelligentie, is een techniek waarbij systemen intelligent gedrag vertonen. AI is niet nieuw en is in de meest uiteenlopende toepassingen aanwezig. Netflix gebruikt AI bijvoorbeeld om op basis van het kijk- en luistergedrag passende films of series voor te stellen. Ook boekhoudprogramma’s maken steeds vaker gebruik van AI. Op basis van manuele boekingen leert de software hoe bepaalde facturen moeten worden ingeboekt en brengt het vervolgens zelf voorstellen uit.
AI zit in zoveel toepassingen verwerkt. En toch mag het niet verbazen dat dit verbaast. Producenten communiceren hier namelijk maar zelden over. En het is al helemaal onduidelijk welke AI, deep learning of machine learning, ze gebruiken. De complexiteit in combinatie met het gebrek aan transparantie kan voor problemen zorgen. Grondrechten kunnen worden uitgehold en de handhaving kan worden bemoeilijkt. Het is meteen ook de reden waarom de Europese Commissie werk wil maken van een regelgevend kader.
Van transparantie-eisen tot een verbod op AI
In de conceptverordening maakt men een onderscheid tussen AI-systemen met een minimaal risico, een beperkt risico, een hoog risico en een onacceptabel risico op veiligheids-, bestaansmiddelen- of grondrechtenschendingen van mensen. Voor elk niveau zijn er andere regels van toepassing.
Bij AI-systemen met een minimaal of een beperkt risico worden er vooral transparantie-eisen opgelegd. Het gaat bijvoorbeeld om de aanbevelings-AI van Netflix, maar ook om het gebruik van AI bij zogenaamde deep fakes. Hier zal verplicht moeten worden gecommuniceerd dat er AI-technologie is gebruikt.
Bij een hoogrisico-AI zijn de regels strenger. Een voorbeeld hiervan is een systeem dat wordt gebruikt bij personeelsbeheer. Daar zijn meer risico’s aan verbonden dan bij het louter uitbrengen van kijkaanbevelingen. Bij deze systemen zullen er strikte conformiteitsbeoordelingen moeten plaatsvinden. Daarnaast moeten er onder andere mogelijkheden tot menselijk toezicht worden aangebracht.
Ten slotte zijn er de AI-systemen met een onacceptabel risico. Deze systemen vormen een duidelijke bedreiging voor de bestaansmiddelen, de veiligheid of de grondrechten van mensen en worden in de conceptverordening verboden. Het gaat bijvoorbeeld om systemen die mensen op grote schaal kunnen identificeren en volgen of die menselijk gedrag kunnen manipuleren. De conceptverordening zet wel de deur op een kier voor veiligheidsdoeleinden, bijvoorbeeld in het kader van terrorismebestrijding.
Nationale toezichthouder en hoge boetes
Lidstaten zullen zelf een nationale toezichthouder moeten aanwijzen die de lidstaat zal vertegenwoordigen in een Europees comité voor kunstmatige intelligentie. Ontwikkelaars van AI-systemen zullen dan weer een meldplicht hebben bij bepaalde defecten of incidenten, net zoals er nu ook al een meldplicht is bij gelekte persoonsgegevens. Verder noemt men torenhoge boetes die kunnen oplopen tot 30 miljoen euro of 6% van de mondiale omzet van een bedrijf.
Conceptverordening is nog niet definitief
Nogmaals: het gaat hier om een conceptverordening en bovenstaande is dus nog niet definitief. Er moet nog een beoordeling volgen door de Raad en het Parlement en er kunnen nog veel zaken wijzigen. Het kan dan ook nog enige tijd duren alvorens de definitieve verordening klaar zal zijn. Wij volgen het natuurlijk op en staan je graag te woord als je vragen hebt over AI- of privacygerelateerde zaken.
