AI is inmiddels diep doorgedrongen in organisaties en besluitvorming. Terwijl toepassingen zich razendsnel ontwikkelen, worstelen bestuurders en managers met de vraag hoe hierop verantwoord te sturen. Wetgeving biedt houvast, maar roept tegelijkertijd nieuwe vragen op over governance, compliance en verantwoordelijkheid. In zeven hoofdstukken nemen Joris Hutter, Sander van der Smissen, Lenna Essink en Alfonso Okué de lezer mee in de kern van de Verordening Artificiële Intelligentie (AI-Act) en de bestuurlijke keuzes die daarmee samenhangen.
Basisbegrippen
In hoofdstuk 1 en 2 van Grip op de AI-Act wordt ingegaan op wat AI precies is, welke doeleinden en toepassingen er zijn en hoe AI-systemen technisch en functioneel zijn opgebouwd. Begrippen als interface, AI-model en de wijze waarop een model leert, worden op toegankelijke wijze uitgelegd. Deze introductie maakt het boek goed leesbaar voor professionals zonder diepgaande technische of juridische voorkennis.
Juridisch kader en Europese digitaliseringswetgeving
Hoofdstuk 3 en 4 vormen samen de kern van Grip op de AI-Act. Hierin wordt uitgebreid ingegaan op de achtergrond en totstandkoming van de AI-Act, geplaatst binnen het bredere landschap van Europese digitaliseringswetgeving. De auteurs laten overtuigend zien dat AI zich enerzijds razendsnel ontwikkelt en anderzijds al diep verweven is met het dagelijks leven. Juist deze combinatie onderstreept de noodzaak van duidelijke en afdwingbare kaders.
De AI-Act staat daarbij niet op zichzelf. De relatie met de AVG krijgt expliciet aandacht, evenals andere relevante Europese wetten zoals de Digital Services Act, Digital Markets Act, NIS2, DORA, de Cyber Resilience Act, de Data Governance Act en de AI Liability Act. Daarmee wordt duidelijk dat de AI-Act onderdeel is van een breder regulerend ecosysteem.
Reikwijdte, rollen en AI-waardeketen
Een belangrijk deel van Grip op de AI-Act gaat over de reikwijdte van de AI-Act en de AI-waardeketen. De wetgeving heeft in sterke mate het karakter van productwetgeving. Centraal staan de rollen van aanbieder en gebruiksverantwoordelijke, maar de gehele waardeketen valt onder de wet, met verschillende rollen en verantwoordelijkheden. Voor organisaties betekent dit dat zij expliciet moeten vastleggen wie waarvoor verantwoordelijk is binnen governance- en compliance-structuren.
Risicobenadering van de AI-Act
Hoofdstuk 5 behandelt de risicogebaseerde opzet van de AI-Act. Er worden vier risicocategorieën onderscheiden: verboden risico, hoogrisico, beperkt risico en minimaal risico. De risico’s hebben betrekking op onder meer discriminatie, misinformatie, systeemveiligheid en misbruik. Met name bias in AI-systemen krijgt nadrukkelijk aandacht; de AI-Act vereist dat mogelijke vertekeningen actief worden voorkomen en gemitigeerd.
Systemen met een verboden risico moeten volledig worden stopgezet. Hoogrisico-systemen zijn toegestaan, maar kennen zware compliance-eisen. Het gaat hierbij bijvoorbeeld om toepassingen in werving en selectie, verzekeringen of biometrische herkenning. Deze systemen kunnen diep ingrijpen in het leven en de fundamentele rechten van mensen. Voor toepassingen met een beperkt of minimaal risico gelden lichtere verplichtingen, zoals transparantie over het gebruik van chatbots. De auteurs benadrukken terecht dat context bepalend is: een systeem kan door veranderend gebruik of technologische ontwikkeling in een andere risicocategorie terechtkomen.
Praktische handvatten voor organisaties
De hoofdstukken 6 en 7 richten zich op de praktische implicaties voor organisaties. AI-geletterdheid wordt benoemd als essentiële randvoorwaarde. Zonder voldoende kennis is het onmogelijk om risico’s goed te beoordelen, compliance vorm te geven of impactassessments uit te voeren, zoals de Fundamental Rights Impact Assessment bij hoogrisico-AI. Het boek sluit af met een praktisch handelingsperspectief voor het inrichten van beleid, rollen en verantwoordelijkheden en daagt organisaties uit hun ambitieniveau te bepalen.
Wie bepaalt de grenzen van AI?
Tegelijkertijd zet Grip op de AI-Act aan tot reflectie. De AI-Act is Europese wetgeving en kan daarmee niet alle risico’s volledig afdekken. Buiten de EU gelden andere normen voor het gebruik van AI, met name op het gebied van biometrische gegevens, profilering en surveillance. Dit roept de vraag op hoe effectief regelgeving kan zijn in een wereld waarin technologie grensoverschrijdend wordt ontwikkeld en toegepast. Wetgeving biedt richting en begrenzing, maar ontslaat organisaties en bestuurders niet van de verantwoordelijkheid om zelf voortdurend af te wegen wat wenselijk, proportioneel en legitiem is.
Concluderend
Juist tussen wetgeving en werkelijkheid ligt de kernvraag die Grip op de AI-Act oproept: wie bepaalt in de praktijk de grenzen van AI? Wetgeving biedt noodzakelijke kaders, maar blijkt onvoldoende zonder bestuurlijk inzicht, afwegingsvermogen en actief leiderschap. In die zin is dit boek niet alleen informatief, maar ook prikkelend. Het confronteert de lezer met de eigen verantwoordelijkheid en nodigt uit tot bewuste sturing in een technologisch domein dat zich sneller ontwikkelt dan bestaande bestuurlijke routines.
Over Elmas Duduk
Elmas Duduk is psycholoog en bedrijfskundige. Als expert Lerende Organisaties en Veranderkundige begeleidt zij gerenommeerde organisaties bij complexe verandertrajecten, inrichtingsvraagstukken en kennismanagement. Zij is auteur van de boeken Crossmenstorschap en Comforttransitie.