Highberg ondersteunt de gemeente Rotterdam bij verantwoord gebruik van algoritmen en AI-systemen

In de rol van Algoritme Expert (product owner van het algoritmeregister) heeft Highberg voor en met Rotterdam de identificatie, classificatie en registratie van algoritmetoepassingen opgepakt, evenals (on)gevraagd advies over de algoritme governance en specifieke toepassingen. In deze rol is ook geadviseerd bij 5 Impact Assessments Mensenrechten en Algoritmen (IAMA’s).

Algoritmen worden ingezet in een proces om deze efficiënter, beter of effectiever uit te kunnen voeren. Dit kunnen toepassingen zijn die al jaren worden gebruikt, maar ook nieuwe initiatieven om (bepaalde stappen in) een proces te automatiseren. Dit kunnen processen zijn uit de gehele organisatie.  

Tijdens dit project is daarom veel aandacht besteed aan de aansluiting bij verschillende knooppunten om zowel algoritmen in gebruik op te sporen alsook om op structurele basis nieuwe initiatieven tijdig te signaleren. Via deze knooppunten is tijdens een grootschalige inventarisatie met meer dan 100 inventarisatiegesprekken achterhaald in welke processen de gemeente minimaal algoritmetoepassingen inzet of gaat zetten.   

Daarnaast heeft Highberg de gemeente Rotterdam zoveel mogelijk ontzorgt door het opnemen en/of publiceren van bestaande toepassingen in het Rotterdamse en landelijke algoritmeregister.  

Bij het uitvoeren van deze werkzaamheden is gewerkt volgens scope, definities en afspraken in de algoritme governance. Gevraagd en ongevraagd advies over verbetering in de governance heeft geleid tot een aanscherping van deze governance en aansluiting op landelijke en Europese ontwikkelingen zoals onder andere de AI Act, het implementatiekader van BZK en ChatGPT. Denk hierbij aan verduidelijking in de scope (wanneer is het een algoritmetoepassing, maar ook wanneer niet) of in de risicoclassificatievragen (zodat deze door proceseigenaar eenvoudiger en consistent te beantwoorden zijn).  

Ook is vanuit de praktijk nadere invulling gegeven aan de automatisering van de beheertool van het algoritmeregister. Voorbeelden hiervan zijn de aansluiting van definities op het landelijk algoritmeregister, voorstel voor een geautomatiseerd periodieke controle van de informatie over algoritmen en een automatische (API-)koppeling naar het landelijke register.  

De inventarisaties hebben, samen met de uitrol van een interne communicatiekalender, een hoger bewustzijn in de organisatie gecreëerd over verantwoorde inzet van algoritmen en AI. Medewerkers kennen en begrijpen hun rol beter en weten de algoritme expert te vinden voor hulpvragen, ondersteuning en advies. 

Met deze werkzaamheden heeft Highberg een goede basis neergezet voor de gemeente zodat zij haar proceseigenaren het zo makkelijk mogelijk kan maken om verantwoord algoritmen in te zetten én zij centraal zicht heeft op algoritmen in gebruik, dit kan behouden en hier transparant over kan zijn.  

Carolien van Hooijdonk (teammanager onderzoek en BI): “De experts van Highberg hebben ervoor gezorgd dat de gemeente Rotterdam haar koploper positie op het gebied van algoritmen goed in stand heeft weten te houden. Ik hoop dat ze dit soort werkzaamheden bij andere organisaties kunnen uitvoeren zodat deze organisaties kunnen profiteren van de kennis en kunde die zij in de praktijk hebben opgebouwd en laten zien.” 

Wil jij weten waar verbeterpunten liggen bij de verantwoorde inzet van jouw ‘hoog risico’ algoritmen, AI systemen of ML toepassingen? Lees meer op onze capability pagina.