De EU AI Act voor het onderwijs: Van wet naar praktijk

Categorieën: AI
Verlanglijst Delen

Over cursus

De Spelregels: De Europese AI-wet (EU AI Act) introduceert een gestructureerde benadering voor het gebruik van kunstmatige intelligentie, waarbij het risico-niveau van AI-systemen centraal staat. De wet maakt gebruik van een risico-piramide om de diverse niveaus van risico’s te categoriseren, variërend van minimaal risico tot onaanvaardbaar risico. Artikel 4 van de wet benadrukt het belang van AI-geletterdheid, waarbij het cruciaal is dat docenten de implicaties en toepassingen van AI begrijpen. Dit kennisniveau stelt hen in staat om de juiste beslissingen te nemen bij het implementeren van AI-technologieën binnen het onderwijs.

 

Onderwijs als Hoog Risico: Binnen de Europese AI-wet worden systemen die worden gebruikt voor toelating, beoordeling en studieadvies aangemerkt als ‘Hoog Risico’. Dit komt doordat dergelijke systemen directe invloed kunnen hebben op het levenspad van leerlingen. Het is daarom van essentieel belang dat deze systemen voldoen aan strenge eisen op het gebied van veiligheid, nauwkeurigheid en non-discriminatie.

 

Verboden AI: De wet stelt specifieke beperkingen aan het gebruik van bepaalde AI-technologieën binnen onderwijsinstellingen. Systemen zoals emotieherkenning en social scoring zijn verboden, omdat ze een hoge mate van inbreuk kunnen maken op de privacy van leerlingen en ethische kwesties kunnen oproepen. Scholen dienen zich bewust te zijn van deze verboden om naleving van de wet te waarborgen.

 

Verplichtingen: Een belangrijk aspect van de EU AI Act is het waarborgen van menselijk toezicht, ook wel ‘Human in the loop’ genoemd. Dit houdt in dat er altijd een menselijke controle moet zijn over AI-beslissingen. Daarnaast moeten scholen transparant zijn naar leerlingen over het gebruik van AI en ervoor zorgen dat de datakwaliteit hoog is. Dit betekent dat gegevens die gebruikt worden door AI-systemen accuraat, actueel en representatief moeten zijn.

 

Praktijk: Om docenten te helpen bij het naleven van de nieuwe wetgeving, is er een praktische checklist ontwikkeld. Deze checklist helpt docenten te bepalen of een AI-tool veilig en legaal te gebruiken is binnen hun onderwijsinstelling. Door deze checklist te volgen, kunnen docenten er zeker van zijn dat ze voldoen aan de regelgeving en hun leerlingen optimaal beschermen.

Toon meer

Wat ga je leren?

  • Begrijpen wat de EU AI Act is en waarom onderwijs als 'Hoog Risico' sector is aangemerkt.
  • AI-tools classificeren volgens de risico-piramide: van 'Verboden' tot 'Minimaal risico'.
  • De cruciale regels toepassen rondom 'Menselijk Toezicht' (Human in the Loop) in de klas.
  • Het onderscheid maken tussen de verantwoordelijkheid van de leverancier (Provider) en de school (Deployer).
  • Risico's herkennen in praktijksituaties, zoals bij 'Shadow IT' en discriminerende algoritmes.
  • Een start maken met de implementatie van AI-beleid binnen de eigen onderwijsinstelling.

Cursus inhoud

Inleiding tot de EU AI Act: Achtergrond en Reikwijdte
In deze openingsmodule leggen we het fundament voor de hele cursus. U leert waarom de Europese AI Act is ingevoerd en waarom deze wet directe werking heeft voor elke onderwijsinstelling in Nederland. We behandelen de wettelijke definitie van AI en verhelderen direct uw positie: bent u als school slechts een software-afnemer, of heeft u als 'Deployer' (Gebruiker) specifieke wettelijke verantwoordelijkheden?

  • De Opkomst van de EU AI Act
  • Belangrijkste Doelstellingen van de EU AI Act
  • Definities en Reikwijdte van de EU AI Act
  • Quiz: Begrippen en Principes van de EU AI Act
  • Impact van de EU AI Act op Onderwijsinstellingen

Kernbepalingen van de EU AI Act: Wat Docenten Moeten Weten
Hier duiken we in de kern van de wet: de risico-gebaseerde benadering. U ontdekt welke AI-toepassingen in het onderwijs strikt verboden zijn (zoals emotieherkenning) en wanneer software als 'Hoog Risico' geldt (bijvoorbeeld bij toetsing en toelating). Centraal staat de vertaalslag naar de praktijk: hoe past u verplichte principes zoals 'Menselijk Toezicht' (Human in the Loop) en transparantie toe in de klas?

Implementatie van de AI Act in Onderwijsinstellingen: Praktische Gids
Weten wat de wet zegt is één ding, het organiseren is een tweede. Deze module biedt een praktische gids voor de implementatie van het AI-beleid binnen uw schoolorganisatie. We behandelen de administratieve vereisten, zoals de FRIA-analyse en het register, en gaan dieper in op de harde wettelijke verplichting om te zorgen voor AI-geletterdheid bij al uw medewerkers.

Juridische Verplichtingen en Verantwoordelijkheid: Cases en Voorbeelden
In deze module verlaten we de theorie en analyseren we de juridische realiteit aan de hand van concrete casussen en dilemma's. Wie is er aansprakelijk als een algoritme discrimineert of een verkeerd studieadvies geeft: de leverancier of de school? U leert valkuilen zoals 'automation bias' herkennen en krijgt inzicht in uw zorgplicht, zodat u juridische risico’s bij het gebruik van AI minimaliseert.

Conclusie en Toekomstperspectieven: Voorbereiding op Veranderende Regelgevingen
We sluiten de cursus af met een blik op de toekomst en een samenvatting van de belangrijkste leerpunten. Hoe blijft uw schoolbeleid overeind in een tijdperk van snel veranderende technologieën zoals AI-tutoren en de Metaverse? U krijgt strategische handvatten om niet alleen juridisch compliant te blijven, maar ook ethisch koers te houden in een digitaliserend onderwijslandschap.