Een algoritmeregister vullen
algoritmeregister software design
16 februari 2023
Gisteren was er een bijeenkomst van de provincies in het kader van algoritmeregister, deze keer met een focus op het vullen van het algoritmeregister: wat moet erin (en wat niet).
Wat is een algoritme?
De vraag die iedere keer voorbij komt is: wat is een algoritme? Om dit in wetten vast te gaan leggen zal er vast en zeker een antwoord moeten komen op die vraag, alhoewel de juiste vraag dan volgens mij zou moeten zijn: “wat willen we vastleggen”, en daar dus het woord voor vinden, in plaats van vastklampen aan het woord “algoritme” en de betekenis daarvan danwel proberen vast te pinnen, danwel proberen zodanig op te rekken en te verleggen dat het past bij wat je eigenlijk vast wil leggen.
Als je een stapje terug doet kom je volgens mij bij een zinvoller inzicht: wat we proberen te voorkomen is dat er beslissingen worden genomen als onderdeel van de “implementatie” van techniek, die eigenlijk discretionair zijn en waar dus verantwoording voor moet worden afgelegd. Waar we nu nog regelmatig software inzetten zonder (al te kritisch) verantwoordelijkheid te nemen voor wat die software precies doet (“zo werkt het nu eenmaal”), moet de mindset veel meer gaan zijn: als die software op een bepaalde manier werkt, dan zijn wij daarvoor verantwoordelijk, dus willen we precies weten hoe dat is, en als dat niet overeenkomt met onze waarden (of de wet), dan moet die software buigen (en niet wij, de wet of de samenleving).
Wat is een algoritmeregister
Wat er dus moet worden vastgelegd is precies die beslissing. En waar je dus “algoritmeregister” lees, moet je eigenlijk denken “overzicht van verantwoording bij de inzet van algoritmische toepassingen”.
Vaak is er in discussies nog een onduidelijkheid: waar de een algoritmeregister zegt, doelt die op een intern overzicht van de ingezette algoritmische toepassingen, terwijl de ander doelt op een publiek toegankelijke plek (website) waarop deze informatie voor een bepaalde doelgroep beschikbaar wordt gesteld. In het ene geval betreft het dus een tool om meer grip te krijgen op de eigen inzet van algoritmes, in het andere geval gaat het om een manier van transparantie verschaffen aan de buitenwereld in het kader van een open overheid.
Vervolgens speelt dan ook nog de vraag: wat is in dat opzicht de rol van het “nationale algoritmeregister” en, als we daar “gebruik van maken”, is er dan nog een noodzaak om een eigen algoritmeregister te realiseren en onderhouden, bijvoorbeeld op de eigen website.
Wanneer moet een algoritme in het register?
Bij het bespreken van criteria voor het prioriteren en selecteren van welke algoritmes moeten worden opgenomen in het algoritmeregister, kwamen een aantal vanzelfsprekende/bekende naar voren:
- hoge impact op burgers en bedrijven
- gebruik van persoonsinformatie
- politieke “hot topics”
- onomkeerbaarheid van de besluiten
- volautomatisch proces: geen menselijke tussenkomst
Criteria die ik voor het eerst hoorde:
- “vakjes prakken”: er worden scores gegeven aan dingen die helemaal niet zo makkelijk met elkaar te vergelijken zijn
- grote belangenconflicten tussen de stakeholders
- niet erg duidelijk hoe een lerend algoritme zich in de toekomst zal gaan gedragen
- weinig zekerheid/vertrouwen in de kwaliteit van het algoritme
- hoge mogelijkheid van doelverschuiving
- type technologie is onbekend/spannend
En de - in mijn optiek - mooiste:
- verbaasdheid over het bestaan van een bepaalde gebruik van een algoritmische toepassing
What’s in a name
Tot slot was er nog de constatering dat de naam die gebruikt wordt voor de inzet van een algoritmische toepassing van invloed is op de inschatting van bovenstaande criteria. In combinatie met het feit dat veel van de bovenstaande vragen eigenlijk ook al antwoord zijn op de vragen die gesteld worden in de Algorithmic Transparency Standard, maakt dat mijn conclusie zou zijn: voor alle algoritmes die je tegen komt moet je even langs dit lijstje (en dus de basis van de registratie invullen), waarna je kunt bepalen of het publiceren in een publiek algoritmeregister zinvol is of eerder vervuilend.
Andere aantekeningen
Open Samenwerken, hoe doe je dat?
14 juni 2021
Je project open stellen voor open samenwerking met andere organisaties, teams of "de community" is niet altijd eenvoudig. Toch is het de wens van veel overheidsprojecten om meer open te gaan werken. Code for NL organiseerde een meetup waarin vanuit drie projecten ervaringen werden gedeeld.
Datagedreven werken ondersteunt mensen in hun autonomie en professionaliteit
1 januari 2020
Mensen denken bij datagedreven werken vaak aan management-data en daarmee managementsturing. Managementsturing is een grote, langzame feedbackloop. Met datagedreven werken kun je echter veel kleinere feedbackloops maken, die veel zinvoller zijn voor de mensen in de uitvoering zelf. Daarom maken wij juist praktische apps voor in de uitvoering, die vervolgens data genereren voor de aansturing: ze kunnen iets met die gegenereerde gaan data doen. En ook dat levert weer data op. Zo krijg je voet tussen de deur om de datagedreven werkwijze langzaam op te bouwen.
Lees Datagedreven werken ondersteunt mensen in hun autonomie en professionaliteit
Wat projecten kunnen leren van Common Ground
15 januari 2025
Hoe kunnen publieke projecten effectiever samenwerken? Het Common Ground-model biedt hiervoor een interessante opzet.