Algoritmes en besluiten

Lijst van gebruikte afkortingen IX

1 Inleiding 1
1.1 Aanleiding 1
1.2 Opbouw 3
1.3 Afbakening 4
1.4 Methodologie 5

2 Kenmerken van algoritmische besluitvorming 7
2.1 Inleiding 7
2.2 Algoritmes in het algemeen 8
2.3 Soorten algoritmes 9
2.4 Kenmerken van algoritmes 11
2.4.1 Menselijke creaties 11
2.4.2 Niet-neutrale constructen 12
2.4.3 Complexiteit 13
2.4.4 Ondoorzichtigheid 13
2.4.5 Feilbaarheid 14
2.5 Het redeneerproces van machine en deep learning algoritmes 15
2.5.1 Inleiding 15
2.5.2 Bepalen van kenmerken 15
2.5.3 Parametrisering 16
2.5.4 Invoergegevens (de nieuw te beoordelen situatie) 17
2.5.5 Beslissen 17
2.6 Inzet van algoritmes in de besluitvorming 18
2.6.1 Geheel of gedeeltelijk geautomatiseerde besluitvorming 18
2.6.2 Expertsystemen 19
2.6.3 De soorten algoritmes die worden ingezet in de besluitvorming 20
2.6.4 Fase van het besluitvormingsproces waarin algoritmes worden gebruikt 21
2.6.5 Algoritmische alomtegenwoordigheid 21
2.6.6 Bestuurlijke overwegingen 22
2.7 Voorbeelden van toepassingen in de publieke sector 23
2.8 Toekomst van algoritmes 24

3 Algoritmische besluitvorming en de grondbeginselen van het algemeen bestuursrecht 27
3.1 Inleiding 27
3.2 De grondbeginselen van het algemeen bestuursrecht 28
3.3 Zorgvuldigheidsbeginsel 30
3.3.1 Zorgvuldige voorbereiding en onderzoeksplicht (formele zorgvuldigheid) 31
3.3.2 Tussenconclusie zorgvuldige voorbereiding 33
3.3.3 Zorgvuldig nemen van een besluit (materiële zorgvuldigheid) 35
3.3.4 Tussenconclusie zorgvuldig nemen van een besluit 36
3.3.5 Evenredige belangenafweging 36
3.3.6 Tussenconclusie evenredige belangenafweging 37
3.3.7 Zorgvuldigheidsbeginsel in de Awb 38
3.3.8 Jurisprudentie 38
3.4 Motiveringsbeginsel 39
3.4.1 Draagkrachtige motivering 39
3.4.2 Tussenconclusie draagkrachtige motivering 41
3.4.3 Kenbare motivering 41
3.4.4 Tussenconclusie kenbare motivering 42
3.4.5 Motiveringsbeginsel in de Awb 42
3.4.6 Jurisprudentie 43
3.5 Good administration versus behoorlijk bestuur 46
3.6 Overzicht van gevonden normen 48

4 De (potentiële) impact van algoritmische besluitvorming 51
4.1 Inleiding 51
4.2 Confrontatie zorgvuldigheidsbeginsel met elementen van algoritmische besluitvorming 51
4.2.1 De voor algoritmische besluitvorming gebruikte invoergegevens zijn niet altijd correct 52
4.2.2 De voor de trainingsfase gebruikte gegevens kunnen leiden tot fouten in het redeneerproces 54
4.2.3 De output van algoritmes vormt niet altijd een onbetwistbare waarheid 55
4.2.4 Het gebruik van algoritmes kan leiden tot een gebrekkige belangenafweging 56
4.2.5 Het bestuursorgaan houdt vast aan de juistheid van het systeem 59
4.2.6 De burger wordt verantwoordelijk voor de zorgvuldige voorbereiding van een besluit 60
4.2.7 De burger staat niet meer centraal in de besluitvorming 62
4.2.8 Menselijke interventie ontbreekt vaak 63
4.3 Confrontatie motiveringsbeginsel met elementen van algoritmische besluitvorming 65
4.3.1 Er vindt een verschuiving van de beslissingsruimte plaats 66
4.3.2 De focus komt te liggen op de juridische correctheid van besluiten 68
4.3.3 Black box 69
4.4 Analyse (potentiële) negatieve impact algoritmische besluitvorming op grondbeginselen 70
4.4.1 Resultaten 70
4.4.2 Bespreking resultaten 72

5 De inbedding van algoritmische besluitvorming 77
5.1 Inleiding 77
5.2 Verscherpt interpreteren van het motiverings- en zorgvuldigheidsbeginsel 78
5.3 Garanderen van menselijke interventie 79
5.4 Transparantie 81
5.5 Juridische status voor algoritmes 83
5.6 Versterking audit functie 85
5.7 Administrative Law by Design 86

6 Conclusies 89
6.1 Inleiding 89
6.2 Beantwoording onderzoeksvraag 89

Geraadpleegde literatuur 93
Geraadpleegde jurisprudentie 101