Update index.md

[jeroendelfos]

Leesbaarheid verbeterd. Inhoudelijke wijziging: burgers hoeven niet te weten hoe een algoritme werkt om tegen een besluit in verzet te gaan. Het vergemakkelijkt het waarschijnlijk wel.

Beschrijf jouw aanpassingen

Bij welk issue hoort deze pull-request?

Checklist before requesting a review

• Ik heb de contributing guidelines van deze repository gelezen en gevolgd.
• Ik heb mijn aanpassingen gecheckt op spelfouten.
• Als ik gebruik heb gemaakt van links, dan heb ik gecheckt of deze werken.
• Ik heb gebruik gemaakt van de templates en formats van het algoritmekader.
• Deze pull-request gaat naar de juiste branch (in principe mergen we eerst naar de branch release alvorens te mergen naar de main branch).

[floort]

Striktgenomen klopt de toevoeging niet helemaal. Er is een spectrum van omstandigheden waarbij aan de ene kant meer kennis over de werking van het algoritme het makkelijker kan maken om je te verdedigen. Maar er zijn situaties denkbaar waarbij betrokkenen uberhaubt niet op de hoogte zijn van het algoritme waardoor de grens onredelijk/onrechtmatig hoog ligt voor betrokkenen om voor hun rechten op te komen. Ik denk dat het de impact van transparantie onderschat als je niet noemt dat het zonder die transparantie praktisch onmogelijk kan zijn.

[ruthkoole]

Excuus voor het sluiten van de pull-request! Er ging even iets fout met rebasen van de release branch. Zo zijn je suggesties wel weer wat overzichtelijker! We gaan er inhoudelijk mee aan de slag!

[BartdeVisser]

Hi Jeroen, Floor,

Dank voor jullie suggesties en de discussie. @jeroendelfos, hoe beoordeel jij Floor's feedback?

Ik ben zelf geneigd om het stelliger neer te zetten. Naast algemene omschrijvingen van de toepassing is het m.i. ook noodzakelijk dat bijvoorbeeld bij aanvraagprocessen (vergunning, subsidie etc.) en afhankelijk van type algoritme of AI-systeem, tot en met het niveau van inputvariabelen uitleg moeten (kunnen) worden gegeven waarom deze al dan niet onderdeel zijn van een model en hoe dit bijdraagt aan de output/waar de output op is gebaseerd. Ik denk daarbij ook aan de (AERIUS-uitspraak). Door transparant te zijn worden burgers/gemachtigden in ieder geval in staat gesteld om zelf te bepalen in hoeverre dit onderdeel wordt van hoor/wederhoor of bezwaar- en beroepprocedures.

Hopelijk voegt dit iets toe?

@jeroendelfos: overige punten op leesbaarheid ga ik overnemen. Dank!

Groet,
Bart

[floort]

Volgens mij gaat het uiteindelijk om de vraag: wil je een handleiding zijn met handige tips of wil je organisaties informeren hoe ze kunnen voldoen aan wettelijke verplichtingen?

Mijn voorkeur is volgens mij duidelijk en niet veel meer dan dat: mijn voorkeur. Maar ik merk in verschillende stukken een wat inconsistente benadering waarbij soms wordt vermeden om verplichtingen te expliciet te benoemen terwijl dat soms juist wel gebeurt. Ik denk dat het voor de duidelijkheid voor degenen die willen bijdragen en lezen wel goed is als er een duidelijk uitgangspunt wordt gekozen.

[jeroendelfos]

Mijn commentaar komt wellicht van een iets fundamentelere aard: je kunt niet van alle burgers verwachten dat zij snappen hoe een algoritme werkt (ook al leg je het súperduidelijk uit). Toch zouden ook deze burgers zich moeten kunnen verdedigen tegen nadelige gevolgen. In andere woorden: als een overheidsorganisatie transparant is over het gebruik van algoritmes ontslaat dat niet van de verplichting om een besluit aan te kunnen vechten.

Daarnaast, een concreet voorbeeld: Monocam. Algoritme herkent een telefoon in iemands hand tijdens het rijden. Tim krabde aan zijn hoofd maar kreeg toch een boete. Moet Tim weten hoe het algoritme werkt om hierin tegen verweer te gaan? Het systeem (algoritmisch of niet) maakte een fout en dat moet gecorrigeerd worden.

[floort]

Als een Awb-besluit niet uitlegbaar is is het besluit onrechtmatig. Als een AVG-verwerking niet in voldoende mate uitlegbaar is de verwerking onrechtmatig. Ik denk dat het beter is om in de uitleg over de regels hier duidelijk te maken dat uitleg een noodzakelijke voorwaarde is voor rechtmatigheid. Dat betekent niet mensen niet kunnen proberen voor hun rechten op te komen als de uitleg onvoldoende is. Is een zin als deze een redelijk compromis: "Als burgers geen kennis kunnen nemen van de gebruikte algoritmes en in hoeverre diens output hen raakt, worden ze onrechtmatig beperkt in de mogenlijkheid om zicht te verdedigen tegen nadelige gevolgen zoals discriminatie of een onjuist genomen beslissing of besluit."? Ik denk dat opmerken dat transparantie het makkelijker maakt het doel van de voorlichting mist. Transparantie is niet slechts handig; het is verplicht.

[BartdeVisser]

Suggested change

	Om openheid te bieden en controleerbaar te zijn moeten overheidsinstanties transparant zijn over inzet van algoritmen en AI-systemen.
	Om openheid te bieden en controleerbaar te zijn moeten overheidsinstanties transparant zijn over inzet van algoritmen en AI-systemen.

[BartdeVisser]

Suggested change

	Dit is bijzonder relevant als een algoritme of AI-systeem, al dan niet geautomatiseerd, impact heeft op besluitvorming die burgers raakt.
	Dit is bijzonder relevant als een algoritme of AI-systeem, al dan niet geautomatiseerd, impact heeft op besluitvorming die burgers raakt.

[BartdeVisser]

Suggested change

	Dit betekent bijvoorbeeld ook dat gebruikers bewust moet worden gemaakt dat zij communiceren of samenwerken met een algoritme of AI-systeem, dat zij worden geïnformeerd over de mogelijkheden en beperkingen van een systeem en dat betrokkenen worden geïnformeerd over hun rechten.
	Dit betekent bijvoorbeeld ook dat gebruikers bewust moet worden gemaakt dat zij communiceren of samenwerken met een algoritme of AI-systeem, dat zij worden geïnformeerd over de mogelijkheden en beperkingen van een systeem en dat betrokkenen worden geïnformeerd over hun rechten.