Het probleem is niet AI, maar hoe we het gebruiken.
Meerdere onderzoeken hebben laten zien hoe borstkanker met behulp van AI eerder opgespoord kan worden. Bovendien is er dan nog maar één radioloog nodig in plaats van twee. Klinkt alleen maar positief, toch? Maar wat als die ene overgebleven radioloog te veel gaat vertrouwen op wat AI al heeft gezegd en daardoor de eigen waarneming afraffelt of minder serieus neemt? Juist daarom zou die radioloog eerst een eigen oordeel moeten vormen, zonder het resultaat van AI te zien of voordat AI een analyse heeft gemaakt.
Efficiëntie heeft ook een keerzijde
AI kan taken sneller uitvoeren. Maar wat doen we in de tussentijd? Meestal beginnen we alvast aan een andere taak. Dat klinkt efficiënt, maar ons brein heeft altijd even tijd nodig om een taak goed op te starten. Tegen de tijd dat we er echt lekker in zitten, is AI alweer klaar. Dat voortdurende schakelen tussen werkzaamheden en het gebrek aan rust omdat we zo efficiënt mogelijk willen werken, kan leiden tot brain fry: een mistig hoofd waardoor je juist minder goed kunt nadenken.
Sterker nog, al die efficiëntie, waarbij je brein nauwelijks meer tijd krijgt om tot rust te komen, kan ervoor zorgen dat je weliswaar meer werk verzet, maar ook sneller richting een burn-out gaat. Niet eens doordat de werkgever meer druk oplegt, maar simpelweg omdat je een veel groter deel van de dag ‘aan’ staat en voortdurend cognitief intensief werk doet. Misschien moet AI dan maar voldoende rustpauzes voor je inplannen. Dat zou het probleem misschien weer kunnen oplossen.
Gemak maakt ook gemakzuchtig
Het gemak dat AI ons biedt, maakt ons helaas ook gemakzuchtig. Hoe vaak hoor je collega's niet zeggen dat ze iets ‘even’ door AI halen? Misschien denken ze dat het verwijderen van namen voldoende is om gegevens te anonimiseren. Of beseffen ze niet dat ze op deze manier gevoelige bedrijfsinformatie kunnen delen.
Praat daar maar eens over met de ambtenaren van de gemeente Eindhoven, die complete dossiers door ChatGPT lieten beoordelen. Of met de programmeurs van Samsung, die ChatGPT gebruikten bij het ontwikkelen van een nieuw product. Juist omdat AI zo laagdrempelig beschikbaar is, zien we de risico’s lang niet altijd.
AI wordt steeds moeilijker te herkennen
Bovendien wordt het steeds lastiger om AI überhaupt nog te herkennen. Soms zit AI ongemerkt verwerkt in de software die we dagelijks gebruiken. Ook de output wordt steeds overtuigender. Daardoor wordt het moeilijker om kritisch te blijven op de betrouwbaarheid van software én van de informatie die we voorgeschoteld krijgen. Dat maakt AI ook een krachtig middel om mensen te misleiden.
AI vraagt om meer dan alleen de AI-verordening
Gelukkig bestaan er regels die grenzen stellen en risico's beperken. Hoe risicovoller een AI-systeem is, hoe meer eisen eraan worden gesteld, zowel voor de aanbieder als voor de gebruiksverantwoordelijke. Sommige AI-toepassingen zijn zelfs volledig verboden.
Maar wie alleen aan de AI-verordening denkt, denkt te beperkt. Natuurlijk is die belangrijk, maar vergeet ook bestaande wet- en regelgeving niet, zoals de AVG en de reclameregels. Goed AI-beleid vraagt om een bredere blik dan alleen de AI Act.
AI met beleid
AI is niet zwart-wit. Het is niet goed of fout. Wel is het belangrijk om er bewust, kritisch en verstandig mee om te gaan. AI met beleid dus. Dat betekent ook dat organisaties een doordacht AI-beleid ontwikkelen, zodat iedereen weet wat verantwoord gebruik inhoudt.
In AI met beleid geef ik je de onderwerpen om over na te denken, praktische handvatten om met wet- en regelgeving om te gaan en concrete adviezen om een werkbaar AI-beleid op te zetten dat past bij jouw organisatie.
Nieuwsgierig hoe je een AI-beleid ontwikkelt dat niet alleen juridisch klopt, maar ook echt werkt in de dagelijkse praktijk? In AI met beleid helpt Charlotte Meindersma organisaties om wetgeving, ethiek en praktijk met elkaar te verbinden. Bestel het boek bij Managementboek.
Over Charlotte Meindersma
Charlotte is jurist en marketeer. Vanuit haar bedrijf Charlotte’s Law & Fine Prints geeft ze juridisch advies en marketingadvies. Ze is een disruptor en pionier in de juridische wereld.