Skip to content

Commit

Permalink
Analyseren van de bronnen van de maatregelen (#576)
Browse files Browse the repository at this point in the history
Co-authored-by: Nout van Deijck <168716911+noutvandeijck@users.noreply.github.com>
  • Loading branch information
ruthkoole and noutvandeijck authored Jan 23, 2025
1 parent 1d90585 commit 94c9613
Show file tree
Hide file tree
Showing 74 changed files with 883 additions and 59 deletions.
22 changes: 22 additions & 0 deletions .github/workflows/run-python-script.yaml
Original file line number Diff line number Diff line change
@@ -0,0 +1,22 @@
name: Run python script

on:
push:
branches:
- main

jobs:
run-python-script:
runs-on: ubuntu-latest

steps:
- name: Checkout code
uses: actions/checkout@v2

- uses: actions/setup-python@v5
with:
python-version: 3.x
cache: 'pip'

- name: Run Python script
run: python script/analysis-maatregelen.py
Original file line number Diff line number Diff line change
Expand Up @@ -13,7 +13,9 @@ onderwerp:
rollen:
- projectleider
- beleid-en-advies

sources:
ADR: SV.12
ARK: 1.04
hide:
- navigation
- toc
Expand Down Expand Up @@ -44,8 +46,6 @@ Bepaal welke expertise en capaciteit noodzakelijk is voor het ontwikkelen, inkop
<!-- list_vereisten_on_maatregelen_page -->

## Bronnen
<!-- Vul hier de relevante bronnen in voor deze maatregel -->

- [Onderzoekskader Algoritmes Auditdienst Rijk, SV.12](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023)
- [Toetsingskader Algoritmes Algemene Rekenkamer, 1.04](https://www.rekenkamer.nl/onderwerpen/algoritmes/documenten/publicaties/2024/05/15/het-toetsingskader-aan-de-slag)
- [Competencies and governance practices for AI in the public sector. Zie hoofdstuk 4](https://op.europa.eu/en/publication-detail/-/publication/949913fa-aae4-11ef-acb1-01aa75ed71a1/language-en)
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -11,6 +11,8 @@ onderwerp:
- transparantie
vereiste:
- awb-01-zorgvuldigheidsbeginsel
sources:
ADR: SV.8
hide:
- navigation
- toc
Expand Down Expand Up @@ -47,6 +49,8 @@ Een duidelijk beleid over de inzet van algoritmes helpt organisaties te voldoen
- Dit beleidsdocument is beschikbaar en toegankelijk voor geïnteresseerden.


- [Onderzoekskader Auditdienst Rijk, SV.8](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023)

## Bijbehorende vereiste(n) { data-search-exclude }
<!-- Hier volgt een lijst met vereisten op basis van de in de metadata ingevulde vereiste -->

Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -12,7 +12,9 @@ onderwerp:
rollen:
- projectleider
- beleid-en-advies

sources:
ADR: SV.13
ARK: 1.03
hide:
- navigation
- toc
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -9,6 +9,8 @@ onderwerp:
rollen:
- projectleider
- beleid-en-advies
sources:
ARK: 1.07
hide:
- navigation
- toc
Expand All @@ -29,7 +31,7 @@ Maak gebruik van beslismomenten in de levenscyclus van een algoritme.
- Hulpmiddel handelingsruimte waardevolle AI in de zorg ([presentatie](https://nlaic.com/wp-content/uploads/2022/06/04a.
- Hulpmiddel-Handelingsruimte-Waardevolle-AI-voor-gezondheid-en-zorg.pdf))([samenvatting](https://nlaic.com/wp-content/uploads/2022/08/NLAIC_AI-Lifecycle-management-in-de-zorg-samenvatting_V1.2.pdf)) is beschikbaar via de [NL AI Coalitie](https://nlaic.com/toepassingsgebied/gezondheid-en-zorg/) en [Data voor gezondheid](https://www.datavoorgezondheid.nl/wegwijzer-ai-in-de-zorg/documenten/publicaties/2021/07/15/hulpmiddel-handelingsruimte-waardevolle-ai-voor-gezondheid)
- UWV Beleidsdocument model risico management, Modellevenscyclus (blz 21), 29 september 2021
- Lifecyclemanagement in het [toetsingskader](https://www.rekenkamer.nl/onderwerpen/algoritmes/documenten/publicaties/2024/05/15/het-toetsingskader-aan-de-slag) van de Algemene Rekenkamer nr (1.07) .
- [Toetsingskader Algemene Rekenkamer, 1.07](https://www.rekenkamer.nl/onderwerpen/algoritmes/documenten/publicaties/2024/05/15/het-toetsingskader-aan-de-slag)

## Bijbehorende vereiste(n) { data-search-exclude }
<!-- Hier volgt een lijst met vereisten op basis van de in de metadata ingevulde vereiste -->
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -9,6 +9,8 @@ onderwerp:
rollen:
- projectleider
- beleid-en-advies
sources:
ADR: SV.9
hide:
- navigation
- toc
Expand All @@ -30,6 +32,8 @@ Taken en verantwoordelijkheden zijn toebedeeld in de algoritmegovernance
![Format](https://github.com/user-attachments/assets/3debe7b6-0c42-40f5-a366-9cc5cc90cd3e)

## Bronnen
- [Onderzoekskader Auditdienst Rijk, SV.9](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023)


## Bijbehorende vereiste(n) { data-search-exclude }
<!-- Hier volgt een lijst met vereisten op basis van de in de metadata ingevulde vereiste -->
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -12,6 +12,21 @@ onderwerp:
rollen:
- projectleider
- beleid-en-advies
sources:
ADR:
- IB.10
- IB.11
- IB.12
- IB.13
- IB.14
- IB.15
- IB.16
- IB.17
ARK:
- 4.01
- 4.02
- 4.04
- 4.05
hide:
- navigation
- toc
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -14,6 +14,12 @@ onderwerp:
rollen:
- projectleider
- beleid-en-advies
sources:
ADR:
- SV.15
- SV.16
- SV.17
ARK: 1.08
hide:
- navigation
- toc
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -12,6 +12,13 @@ onderwerp:
rollen:
- projectleider
- ontwikkelaar
sources:
ADR:
- IB.6
- IB.7
- IB.8
- IB.9
ARK: 4.03
hide:
- navigation
- toc
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -12,6 +12,14 @@ onderwerp:
rollen:
- projectleider
- ontwikkelaar
sources:
ADR:
- IB.1
- IB.2
- IB.3
- IB.4
- IB.5
ARK: 4.07
hide:
- navigation
- toc
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -11,6 +11,9 @@ onderwerp:
- transparantie
rollen:
- projectleider
sources:
ADR: SV.1
ARK: 1.01
hide:
- navigation
- toc
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -11,6 +11,13 @@ onderwerp:
- transparantie
rollen:
- projectleider
sources:
ADR:
- SV.3
- DM.7
ARK:
- 1.01
- 1.02
hide:
- navigation
- toc
Expand All @@ -29,7 +36,9 @@ Maak de consequenties van het algoritme specifiek en zorg dat het doel van het a
Indien er meerdere doelen zijn, is het belangrijk om een zekere rangorde te maken: wat zijn de belangrijkste doelen? En waarom?
Welke doelen zijn subdoelen, waarvoor het minder belangrijk is om deze te realiseren?

- Indien mogelijk, dienen de doelstellingen gekwantificeerd te worden (SMART).
- Indien mogelijk, dienen de doelstellingen gekwantificeerd te worden (SMART).

- Probeer vast te stellen wat de doelpopulatie is, zodat in een later stadium data kan worden gezocht die [representatief is daarvoor, wat bijdraagt aan de datakwaliteit](3-dat-01-datakwaliteit.md) van een algoritme.

- Om te zorgen voor voldoende draagvlak voor de beoogde doelen, is het noodzaak om [voldoende belanghebbenden te betrekken](1-pba-04-betrek-belanghebbenden.md).
Hierbij kan het ook helpen om burgers te betrekken bij de totstandkoming van de doelstellingen, bijvoorbeeld door middel van een burgerpanel of het betrekken van belangengroepen.
Expand All @@ -54,7 +63,7 @@ Doelstellingen zijn in dat geval moeilijk bespreekbaar.

- [Toetsingskader Algoritmes Algemene Rekenkamer, 1.01, 1.02](https://www.rekenkamer.nl/onderwerpen/algoritmes/documenten/publicaties/2024/05/15/het-toetsingskader-aan-de-slag)
- [Impact Assessment Mensenrechten en Algoritmes, 1.2](https://www.rijksoverheid.nl/documenten/rapporten/2021/02/25/impact-assessment-mensenrechten-en-algoritmes)
- [Onderzoekskader Algoritmes Auditdienst Rijk, SV.3](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023)
- [Onderzoekskader Algoritmes Auditdienst Rijk, SV.3, DM.7](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023)

## Voorbeeld

Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -12,6 +12,9 @@ onderwerp:
- menselijke-controle
rollen:
- projectleider
sources:
ADR: SV.2
ARK: 1.01
hide:
- navigation
- toc
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -11,6 +11,9 @@ levenscyclus:
onderwerp:
- governance
- fundamentele-rechten
sources:
ADR: SV.10
ARK: 2.12
rollen:
- projectleider
hide:
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -12,6 +12,10 @@ onderwerp:
- transparantie
rollen:
- jurist
sources:
ADR:
- SV.7
- PRI.6
hide:
- navigation
- toc
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -13,6 +13,14 @@ onderwerp:
- governance
rollen:
- projectleider
sources:
ADR:
- SV.9
- SV.19
- PRI.1
ARK:
- 1.06
- 3.02
hide:
- navigation
- toc
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -16,7 +16,13 @@ onderwerp:
rollen:
- projectleider
- jurist

sources:
ADR:
- PRI.4
- PRI.7
ARK:
- 3.01
- 3.05
hide:
- navigation
- toc
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -12,6 +12,11 @@ onderwerp:
- technische-robuustheid-en-veiligheid
rollen:
- ontwikkelaar
sources:
ADR: DM.2
ARK:
- 2.04
- 2.17
hide:
- navigation
- toc
Expand Down Expand Up @@ -39,6 +44,10 @@ Beschrijf welke techniek gebruikt wordt voor de beoogde toepassing.

- Het is belangrijk om uiteindelijk een passend uitlegbaar algoritme te selecteren voor de context waarin het wordt toegepast. Daarin moet de afweging gemaakt worden of de technische [uitlegbaarheid](2-owp-33-toepassen-uitlegbaarheidstechnieken.md) voldoende is in de context die de inzet van het algoritme vereist. Hierbij kan ook de conclusie worden getrokken dat een simpeler, inzichtelijker algoritme de voorkeur krijgt.

- Maak hierbij een bewuste afweging tussen [uitlegbaarheid](2-owp-33-toepassen-uitlegbaarheidstechnieken.md) en [prestaties](5-ver-02-evalueer-nauwkeurigheid.md) van het algoritme. Over het algemeen geldt dat complexere maar minder uitlegbare algoritmes nauwkeuriger zijn.

- Veel (statische) modellen zijn gebaseerd op (statische) aannames over bijvoorbeeld eigenschappen van de data. Ga na of er aan deze aannames wordt voldaan.

## Voorbeeld

## Risico
Expand All @@ -48,4 +57,6 @@ Beschrijf welke techniek gebruikt wordt voor de beoogde toepassing.
<!-- list_vereisten_on_maatregelen_page -->

## Bronnen
[Impact Assessment Mensenrechten en Algoritmes, 2A.1, 2B.1](../hulpmiddelen/IAMA.md)
- [Impact Assessment Mensenrechten en Algoritmes, 2A.1, 2B.1](../hulpmiddelen/IAMA.md)
- [Onderzoekskader Auditdienst Rijk, DM.2](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023)
- [Toetsingskader Algemene Rekenkamer, 2.04, 2.17](https://www.rekenkamer.nl/onderwerpen/algoritmes/documenten/publicaties/2024/05/15/het-toetsingskader-aan-de-slag)
Original file line number Diff line number Diff line change
Expand Up @@ -14,6 +14,8 @@ onderwerp:
rollen:
- projectleider
- ontwikkelaar
sources:
ADR: SV.4
hide:
- navigation
- toc
Expand Down Expand Up @@ -60,7 +62,7 @@ Het risico is afhankelijk van de kans dat een fout voorkomt. Voor risicoanalyse
Als er geen goede impactanalyse wordt gemaakt, kunnen risico’s over het hoofd worden gezien. Een niet werkend systeem kan dan een grote impact hebben op mensen of de organisatie.

## Bronnen

- [Onderzoekskader Auditdienst Rijk, SV.4](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023)

## Voorbeeld

Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -21,7 +21,8 @@ onderwerp:
rollen:
- projectleider
- beleid-en-advies

sources:
ADR: SV.4
hide:
- navigation
---
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -11,6 +11,10 @@ onderwerp:
- fundamentele-rechten
rollen:
- beleid-en-advies
sources:
ADR:
- SV.4
- DM.16
hide:
- navigation
- toc
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -14,6 +14,9 @@ rollen:
- ontwikkelaar
- projectleider
- jurist
sources:
ADR: DM.13
ARK: 4.06
hide:
- navigation
- toc
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -43,7 +43,6 @@ Ontwerpen zonder oog voor efficiëntie kan leiden tot energie-intensieve algorit

## Bronnen
- [What is knowledge distillation? (IBM)](https://www.ibm.com/topics/knowledge-distillation)
-

## Voorbeeld
<!-- Voeg hier een voorbeeld toe, door er bijvoorbeeld naar te verwijzen -->
Original file line number Diff line number Diff line change
Expand Up @@ -72,6 +72,8 @@ onderwerp:
rollen:
- projectleider
- beleid-en-advies
bronnen:
ADR: SV.11
hide:
- navigation
- toc
Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -58,9 +58,6 @@ Vul technische documentatie van aanbieder aan met relevante informatie vanuit de
<!-- vul hier het specifieke risico in dat kan worden gemitigeerd met behulp van deze maatregel -->
Door de technische documentatie niet volledig op te stellen, is niet geheel transparant hoe het algoritme functioneert en kan daar geen verantwoording voor worden afgelegd.

## Bronnen


## Voorbeeld

Heb jij een goed voorbeeld? Laat het ons weten!
Expand Down
Loading

0 comments on commit 94c9613

Please sign in to comment.