De EU AI Act is de eerste uitgebreide Europese wetgeving die specifiek regels stelt voor de ontwikkeling, het aanbieden en het gebruik van kunstmatige intelligentie (AI). Het doel van de wet is om innovatie te stimuleren en tegelijkertijd de veiligheid, transparantie en bescherming van fundamentele rechten te waarborgen. De AI Act is op 1 augustus 2024 in werking getreden en wordt gefaseerd ingevoerd.
De eerste bepalingen, waaronder het verbod op bepaalde AI-toepassingen met een onaanvaardbaar risico en de verplichting om te zorgen voor voldoende AI-geletterdheid binnen organisaties, zijn sinds 2 februari 2025 van toepassing. De meeste overige verplichtingen gelden vanaf 2 augustus 2026, met voor enkele specifieke categorieën een langere overgangstermijn.
Waarom is de AI Act ontwikkeld?
De Europese Commissie constateerde dat AI steeds vaker wordt ingezet voor beslissingen die substantiële gevolgen kunnen hebben voor mensen. Wanneer dergelijke systemen fouten maken, kunnen de gevolgen aanzienlijk zijn.
Zoekt u verdieping op dit onderwerp? Bekijk ons opleidingsaanbod!
Utrecht Business School is de business school voor management executives en business leaders in Nederland. Wij leiden onze deelnemers op tot zwaardere professionals en bereiden ze, middels post-initieel onderwijs en certificering, voor op een volgende carrièrestap. Lees meer →
De AI Act moet ervoor zorgen dat AI veilig, transparant en verantwoord wordt toegepast. De wet kiest daarom niet voor een algemeen verbod op AI, maar voor een risicogebaseerde benadering. Hoe groter het risico van een AI-systeem voor burgers of de samenleving, hoe strenger de wettelijke eisen.
De vier risicocategorieën
De AI Act onderscheidt vier categorieën van AI-systemen.
1. Onaanvaardbaar risico
Sommige AI-toepassingen zijn binnen de Europese Unie verboden omdat zij een onaanvaardbaar risico vormen voor fundamentele rechten. Voorbeelden hiervan zijn systemen die mensen manipuleren zonder dat zij zich daarvan bewust zijn, AI die kwetsbare personen uitbuit, bepaalde vormen van sociale scoring door overheden en het zonder wettelijke grondslag verzamelen van gezichtsbeelden van internet of camerabeelden om databases ten behoeve van gezichtsherkenning op te bouwen.
2. Hoog-risico AI
De belangrijkste categorie betreft hoog-risico AI-systemen. Hieronder vallen toepassingen die worden gebruikt in situaties waarin beslissingen grote gevolgen kunnen hebben voor personen. Voorbeelden zijn AI voor onderwijs en examens, personeelsselectie, beoordeling van werknemers, medische hulpmiddelen, kritieke infrastructuur, kredietbeoordeling, migratie en rechtshandhaving.
Voor dergelijke systemen gelden uitgebreide verplichtingen. Organisaties moeten onder meer zorgen voor een risicobeheersysteem, hoogwaardige trainings- en testdata, technische documentatie, logging van het systeem, transparantie, menselijke controle, nauwkeurigheid en cybersecurity. Hoewel deze verplichtingen primair gelden voor aanbieders van AI-systemen, hebben ook gebruikers verantwoordelijkheden, zoals het volgen van de gebruiksinstructies en het waarborgen van passend menselijk toezicht.
3. Beperkt risico
Bij AI-systemen met een beperkt risico ligt de nadruk vooral op transparantie. Denk aan chatbots, AI-assistenten, systemen die afbeeldingen genereren en deepfakes. Gebruikers moeten weten dat zij met AI communiceren of dat content kunstmatig is gegenereerd. Voor AI-gegenereerde of gemanipuleerde media gelden specifieke transparantieverplichtingen, met enkele uitzonderingen.
4. Minimaal risico
De meeste AI-toepassingen vallen binnen de categorie minimaal risico. Denk aan spamfilters, AI in videogames, aanbevelingssystemen en productiviteitstoepassingen. Voor dergelijke toepassingen gelden geen specifieke verplichtingen vanuit de AI Act, al blijven andere wettelijke verplichtingen, zoals de privacywetgeving, wel van toepassing.
General-Purpose AI
Met de opkomst van generatieve AI-systemen zoals ChatGPT, Claude en Gemini bevat de AI Act ook specifieke regels voor AI-modellen voor algemene doeleinden (General-Purpose AI of GPAI).
Aanbieders van dergelijke modellen moeten technische documentatie beschikbaar stellen, informatie geven over de mogelijkheden en beperkingen van het model, een samenvatting publiceren van de auteursrechtelijk beschermde data die voor training zijn gebruikt voor zover de wet dat vereist, en een beleid voeren om het auteursrecht van de Europese Unie te respecteren.
Voor modellen met een systemisch risico gelden aanvullende verplichtingen, waaronder uitgebreide evaluaties, risicobeperkende maatregelen en incidentrapportage.
AI-geletterdheid
Een belangrijk onderdeel van de AI Act is de aandacht voor AI-geletterdheid. Organisaties die AI gebruiken moeten ervoor zorgen dat medewerkers die met AI werken over voldoende kennis beschikken. De wet schrijft geen specifiek opleidingsprogramma voor, maar verlangt dat de kennis aansluit bij de rol van de medewerker, de gebruikte AI-systemen en de bijbehorende risico’s.
Dit betekent dat organisaties moeten investeren in kennis over de werking van AI, de beperkingen van AI, bias, privacy, ethiek en verantwoord gebruik.
Handhaving
De AI Act wordt in iedere lidstaat gehandhaafd door nationale toezichthouders. Daarnaast krijgt het Europese AI Office een centrale rol bij het toezicht op met name de meest geavanceerde AI-modellen voor algemene doeleinden.
Bij overtredingen kunnen aanzienlijke boetes worden opgelegd. Afhankelijk van de overtreding kunnen deze oplopen tot € 35 miljoen of 7% van de wereldwijde jaaromzet, waarbij voor sommige overtredingen lagere maximumbedragen gelden.
Gefaseerde invoering
De verplichtingen uit de AI Act worden zoals reeds aangegeven stapsgewijs ingevoerd. Sinds februari 2025 zijn de verboden AI-toepassingen niet langer toegestaan en moeten organisaties aandacht besteden aan AI-geletterdheid. Vanaf augustus 2025 gelden de regels voor AI-modellen voor algemene doeleinden. Vanaf augustus 2026 wordt het grootste deel van de AI Act van toepassing, waaronder de regels voor veel hoog-risico AI-systemen. Voor bepaalde hoog-risico systemen die onderdeel zijn van gereguleerde producten geldt een langere overgangstermijn tot augustus 2027.
Wat betekent de EU AI Act voor onderwijs en leren?
De EU AI Act heeft belangrijke gevolgen voor het onderwijs, zowel voor onderwijsinstellingen als voor docenten, studenten en opleidingsaanbieders. Hoewel de wet zich primair richt op aanbieders en ontwikkelaars van AI-systemen, verandert het ook de manier waarop AI verantwoord kan worden ingezet binnen het onderwijs.
1. Verantwoord gebruik van AI
AI kan het onderwijs ondersteunen, bijvoorbeeld door feedback op opdrachten te geven, studieresultaten te analyseren of persoonlijke leeradviezen te verstrekken. De verantwoordelijkheid voor beoordeling en besluitvorming blijft echter bij de docent of opleider. De AI Act benadrukt daarmee dat AI ondersteunend is en professionele oordeelsvorming niet mag vervangen.
2. Transparantie richting studenten
Studenten moeten weten wanneer AI wordt gebruikt, waarvoor AI wordt ingezet, welke invloed AI heeft op beoordelingen of aanbevelingen en welke gegevens worden verwerkt. Deze transparantie voorkomt dat AI-uitkomsten ten onrechte als volledig objectief of menselijk worden beschouwd.
3. AI-geletterdheid in het onderwijs
Voor onderwijsinstellingen betekent de AI Act dat scholing van medewerkers steeds belangrijker wordt. Docenten en andere medewerkers die AI gebruiken moeten begrijpen hoe AI-systemen werken, welke beperkingen zij hebben, welke risico’s bestaan en hoe AI-uitkomsten kritisch moeten worden beoordeeld.
4. Hoog-risico toepassingen binnen het onderwijs
De AI Act beschouwt bepaalde AI-toepassingen binnen het onderwijs als hoog-risico. Dit geldt onder meer voor AI die wordt ingezet bij toelating van studenten, selectieprocedures, examens, beoordeling van leerprestaties en andere beslissingen die substantiële gevolgen hebben voor de onderwijsloopbaan van studenten.
Onderwijsinstellingen die dergelijke systemen gebruiken zullen moeten nagaan of leveranciers voldoen aan de eisen van de AI Act op het gebied van risicobeheer, datakwaliteit, documentatie, menselijke controle, nauwkeurigheid en cybersecurity.
5. Privacy blijft van belang
De AI Act vervangt de bestaande privacywetgeving niet. Wanneer AI persoonsgegevens verwerkt, blijven onderwijsinstellingen verantwoordelijk voor een rechtmatige verwerking, minimale gegevensverwerking, passende beveiliging en transparantie over het gebruik van persoonsgegevens.
6. Eisen aan leveranciers
Leveranciers van AI-oplossingen voor het onderwijs moeten kunnen aantonen dat hun systemen veilig, betrouwbaar en transparant functioneren. Bij de aanschaf van AI-oplossingen zullen onderwijsinstellingen daarom vaker moeten beoordelen of leveranciers voldoen aan de eisen van de AI Act en aandacht besteden aan onderwerpen zoals trainingsdata, nauwkeurigheid, bias, menselijke controle en beveiliging.
7. Toetsing en fraude
AI wordt steeds vaker ingezet voor plagiaatdetectie of fraudeopsporing. De AI Act verbiedt dergelijke toepassingen niet, maar verwacht wel dat instellingen kritisch beoordelen hoe betrouwbaar de AI is, hoe groot de kans op foutieve uitkomsten is, of studenten bezwaar kunnen maken en of een mens de uiteindelijke beslissing neemt. Een AI-uitkomst mag niet automatisch leiden tot sancties zonder menselijke beoordeling.
8. Nieuwe competenties voor studenten
Naast verantwoord gebruik van AI wordt het steeds belangrijker dat studenten leren hoe zij generatieve AI effectief kunnen gebruiken, AI-uitkomsten kritisch kunnen beoordelen, feitelijke onjuistheden kunnen herkennen en verantwoord omgaan met auteursrecht, privacy en ethiek. Hierdoor verschuift de nadruk van uitsluitend kennis reproduceren naar kritisch denken, beoordelen en samenwerken met AI.
Reageer op dit bericht