Een algoritmeregister vullen
algoritmeregister software design
16 februari 2023
Gisteren was er een bijeenkomst van de provincies in het kader van algoritmeregister, deze keer met een focus op het vullen van het algoritmeregister: wat moet erin (en wat niet).
Wat is een algoritme?
De vraag die iedere keer voorbij komt is: wat is een algoritme? Om dit in wetten vast te gaan leggen zal er vast en zeker een antwoord moeten komen op die vraag, alhoewel de juiste vraag dan volgens mij zou moeten zijn: “wat willen we vastleggen”, en daar dus het woord voor vinden, in plaats van vastklampen aan het woord “algoritme” en de betekenis daarvan danwel proberen vast te pinnen, danwel proberen zodanig op te rekken en te verleggen dat het past bij wat je eigenlijk vast wil leggen.
Als je een stapje terug doet kom je volgens mij bij een zinvoller inzicht: wat we proberen te voorkomen is dat er beslissingen worden genomen als onderdeel van de “implementatie” van techniek, die eigenlijk discretionair zijn en waar dus verantwoording voor moet worden afgelegd. Waar we nu nog regelmatig software inzetten zonder (al te kritisch) verantwoordelijkheid te nemen voor wat die software precies doet (“zo werkt het nu eenmaal”), moet de mindset veel meer gaan zijn: als die software op een bepaalde manier werkt, dan zijn wij daarvoor verantwoordelijk, dus willen we precies weten hoe dat is, en als dat niet overeenkomt met onze waarden (of de wet), dan moet die software buigen (en niet wij, de wet of de samenleving).
Wat is een algoritmeregister
Wat er dus moet worden vastgelegd is precies die beslissing. En waar je dus “algoritmeregister” lees, moet je eigenlijk denken “overzicht van verantwoording bij de inzet van algoritmische toepassingen”.
Vaak is er in discussies nog een onduidelijkheid: waar de een algoritmeregister zegt, doelt die op een intern overzicht van de ingezette algoritmische toepassingen, terwijl de ander doelt op een publiek toegankelijke plek (website) waarop deze informatie voor een bepaalde doelgroep beschikbaar wordt gesteld. In het ene geval betreft het dus een tool om meer grip te krijgen op de eigen inzet van algoritmes, in het andere geval gaat het om een manier van transparantie verschaffen aan de buitenwereld in het kader van een open overheid.
Vervolgens speelt dan ook nog de vraag: wat is in dat opzicht de rol van het “nationale algoritmeregister” en, als we daar “gebruik van maken”, is er dan nog een noodzaak om een eigen algoritmeregister te realiseren en onderhouden, bijvoorbeeld op de eigen website.
Wanneer moet een algoritme in het register?
Bij het bespreken van criteria voor het prioriteren en selecteren van welke algoritmes moeten worden opgenomen in het algoritmeregister, kwamen een aantal vanzelfsprekende/bekende naar voren:
- hoge impact op burgers en bedrijven
- gebruik van persoonsinformatie
- politieke “hot topics”
- onomkeerbaarheid van de besluiten
- volautomatisch proces: geen menselijke tussenkomst
Criteria die ik voor het eerst hoorde:
- “vakjes prakken”: er worden scores gegeven aan dingen die helemaal niet zo makkelijk met elkaar te vergelijken zijn
- grote belangenconflicten tussen de stakeholders
- niet erg duidelijk hoe een lerend algoritme zich in de toekomst zal gaan gedragen
- weinig zekerheid/vertrouwen in de kwaliteit van het algoritme
- hoge mogelijkheid van doelverschuiving
- type technologie is onbekend/spannend
En de - in mijn optiek - mooiste:
- verbaasdheid over het bestaan van een bepaalde gebruik van een algoritmische toepassing
What’s in a name
Tot slot was er nog de constatering dat de naam die gebruikt wordt voor de inzet van een algoritmische toepassing van invloed is op de inschatting van bovenstaande criteria. In combinatie met het feit dat veel van de bovenstaande vragen eigenlijk ook al antwoord zijn op de vragen die gesteld worden in de Algorithmic Transparency Standard, maakt dat mijn conclusie zou zijn: voor alle algoritmes die je tegen komt moet je even langs dit lijstje (en dus de basis van de registratie invullen), waarna je kunt bepalen of het publiceren in een publiek algoritmeregister zinvol is of eerder vervuilend.
Andere aantekeningen
Het gevaar van priming
25 januari 2021
Zojuist een erg interessante sessie gehad over de mogelijkheid om een "algoritmeregister" te introduceren. Iedereen heeft daar wel iets van een beeld bij, maar bij nadere verkenning blijkt al snel: wat zit er nou eigenlijk in een "register", en wat valt er eigenlijk allemaal onder de noemer "algoritmes". Op die manier wordt het verzinnen van een oplossing een soort taalfilosofische exercitie.
Open source licenties en verdienmodellen
21 januari 2021
Vandaag een leuke Code for NL meetup over open source licenties en verdienmodellen. Walter van Holst van Hooghiemstra en partners vertelde over de verschillende, ook niet juridische, aspecten van deze licenties, waarna er ruimte was voor vragen.
De waanzin van standaardapplicaties
19 januari 2021
"De definitie van waanzin is telkens hetzelfde doen, maar een andere uitkomst verwachten." Schijnbaar een uitspraak van Albert Einstein, al wordt dat tegenwoordig van elke diepzinnige uitspraak beweerd. Maar goed, in ieder geval lijkt mij hier een diepe waarheid achter schuilgaan.