Een algoritmeregister vullen
algoritmeregister software design
16 februari 2023
Gisteren was er een bijeenkomst van de provincies in het kader van algoritmeregister, deze keer met een focus op het vullen van het algoritmeregister: wat moet erin (en wat niet).
Wat is een algoritme?
De vraag die iedere keer voorbij komt is: wat is een algoritme? Om dit in wetten vast te gaan leggen zal er vast en zeker een antwoord moeten komen op die vraag, alhoewel de juiste vraag dan volgens mij zou moeten zijn: “wat willen we vastleggen”, en daar dus het woord voor vinden, in plaats van vastklampen aan het woord “algoritme” en de betekenis daarvan danwel proberen vast te pinnen, danwel proberen zodanig op te rekken en te verleggen dat het past bij wat je eigenlijk vast wil leggen.
Als je een stapje terug doet kom je volgens mij bij een zinvoller inzicht: wat we proberen te voorkomen is dat er beslissingen worden genomen als onderdeel van de “implementatie” van techniek, die eigenlijk discretionair zijn en waar dus verantwoording voor moet worden afgelegd. Waar we nu nog regelmatig software inzetten zonder (al te kritisch) verantwoordelijkheid te nemen voor wat die software precies doet (“zo werkt het nu eenmaal”), moet de mindset veel meer gaan zijn: als die software op een bepaalde manier werkt, dan zijn wij daarvoor verantwoordelijk, dus willen we precies weten hoe dat is, en als dat niet overeenkomt met onze waarden (of de wet), dan moet die software buigen (en niet wij, de wet of de samenleving).
Wat is een algoritmeregister
Wat er dus moet worden vastgelegd is precies die beslissing. En waar je dus “algoritmeregister” lees, moet je eigenlijk denken “overzicht van verantwoording bij de inzet van algoritmische toepassingen”.
Vaak is er in discussies nog een onduidelijkheid: waar de een algoritmeregister zegt, doelt die op een intern overzicht van de ingezette algoritmische toepassingen, terwijl de ander doelt op een publiek toegankelijke plek (website) waarop deze informatie voor een bepaalde doelgroep beschikbaar wordt gesteld. In het ene geval betreft het dus een tool om meer grip te krijgen op de eigen inzet van algoritmes, in het andere geval gaat het om een manier van transparantie verschaffen aan de buitenwereld in het kader van een open overheid.
Vervolgens speelt dan ook nog de vraag: wat is in dat opzicht de rol van het “nationale algoritmeregister” en, als we daar “gebruik van maken”, is er dan nog een noodzaak om een eigen algoritmeregister te realiseren en onderhouden, bijvoorbeeld op de eigen website.
Wanneer moet een algoritme in het register?
Bij het bespreken van criteria voor het prioriteren en selecteren van welke algoritmes moeten worden opgenomen in het algoritmeregister, kwamen een aantal vanzelfsprekende/bekende naar voren:
- hoge impact op burgers en bedrijven
- gebruik van persoonsinformatie
- politieke “hot topics”
- onomkeerbaarheid van de besluiten
- volautomatisch proces: geen menselijke tussenkomst
Criteria die ik voor het eerst hoorde:
- “vakjes prakken”: er worden scores gegeven aan dingen die helemaal niet zo makkelijk met elkaar te vergelijken zijn
- grote belangenconflicten tussen de stakeholders
- niet erg duidelijk hoe een lerend algoritme zich in de toekomst zal gaan gedragen
- weinig zekerheid/vertrouwen in de kwaliteit van het algoritme
- hoge mogelijkheid van doelverschuiving
- type technologie is onbekend/spannend
En de - in mijn optiek - mooiste:
- verbaasdheid over het bestaan van een bepaalde gebruik van een algoritmische toepassing
What’s in a name
Tot slot was er nog de constatering dat de naam die gebruikt wordt voor de inzet van een algoritmische toepassing van invloed is op de inschatting van bovenstaande criteria. In combinatie met het feit dat veel van de bovenstaande vragen eigenlijk ook al antwoord zijn op de vragen die gesteld worden in de Algorithmic Transparency Standard, maakt dat mijn conclusie zou zijn: voor alle algoritmes die je tegen komt moet je even langs dit lijstje (en dus de basis van de registratie invullen), waarna je kunt bepalen of het publiceren in een publiek algoritmeregister zinvol is of eerder vervuilend.
Andere aantekenignen
Coders, niet code: Hoe coders publieke organisaties kunnen versterken
8 oktober 2024
Publieke organisaties moeten coders in zelforganiserende teams plaatsen om hun vaardigheden te benutten voor het continu verbeteren van zowel software als de organisatie zelf.
Lees Coders, niet code: Hoe coders publieke organisaties kunnen versterken
Samen denken, ruwe schetsen
25 januari 2021
Als ik als visueel denker met mensen samenwerk, kom ik er niet omheen om ideeën ook visueel te maken en die plaatjes samen met mensen te bespreken, om te checken of ik het snap. Daarvoor is het helemaal niet nodig om mooie plaatjes te maken, heb ik gemerkt. Sterker nog, er valt veel voor te zeggen om juist hele ruwe schetsen te gebruiken.
Een app om de toekomst te voorspellen
24 januari 2021
Een tijd geleden kreeg ik het verzoek om een Tarot app te schrijven. In eerste instantie moest ik even nadenken; ik geloof namelijk niet in dit soort zaken. [discussie: moest ik deze klus daarom afwijzen?] Uiteindelijk heb ik het appje gemaakt, en daarbij kwam er een interessante afweging voorbij.