‘In control’ van algoritmes en AI-systemen

De kwaliteit van het algoritme wordt niet alleen bepaald door het inhuren van knappe koppen die aan de slag gaan met nauwkeurige algoritmes. Ervaring leert dat er veel meer bij komt kijken. Heb je al nagedacht over de volgende aandachtspunten?

• Waar moet een algoritme aan voldoen om ‘goed’ te zijn?
• Hoe stel je vast waar een algoritme aan moet voldoen?
• Welke betrouwbaarheidsmarges zijn acceptabel bij toepassing van een algoritme?

Deze aandachtspunten spelen al in de voorbereiding een cruciale rol om goede algoritmes te ontwikkelen en te beheren en daarnaast ook om een goede datakwaliteit te realiseren.

“Wil je voor mij een algoritme maken?” – als algoritmeontwikkelaars hebben wij een specifiekere vraag nodig dan deze. Wanneer je naar de kapper gaat, heb je vooraf een bepaald beeld van waar je wel en vooral waar je niet mee naar huis wilt. Zonder je verwachtingen vooraf expliciet te maken, knipt de kapper ongetwijfeld je haar anders dan jij had verwacht. Hetzelfde geldt voor algoritmes, deze kunnen niet uit zichzelf aan de gestelde verwachtingen voldoen. Om wél aan de verwachtingen te voldoen, helpt het algoritmeontwikkelaars om antwoord te hebben op vragen zoals: Welk probleem wil je oplossen met behulp van data? Welke gegevens kunnen, mogen en willen we daarvoor gebruiken? Hoe wil je het algoritme inzetten en hoe sluit dit aan op de bestaande bedrijfsprocessen en het huidige beleid?

Ook wanneer het gelukt is om succesvol een algoritme te ontwikkelen en op te schalen, zien we dat het niet elke organisatie lukt om te borgen dat het algoritme blijft doen waarvoor het is ontwikkeld. In andere woorden: Hoe evalueer jij regelmatig dat het algoritme nog steeds doet waarvoor het ontwikkeld is? 

Om grip te houden op algoritmes in beheer, is het belangrijk dicht bij de inhoud te beginnen: start met periodieke controle op de prestaties van het algoritme. Leg vast wat er moet gebeuren als uit de controle blijkt dat het algoritme niet werkt zoals afgesproken. Sta niet alleen stil bij de prestaties zelf, maar stel ook continue vragen: Welke mogelijkheid heeft een medewerker om van het algoritme af te wijken? Hoe zorg je ervoor dat er geen tunnelvisie ontstaat bij zelflerende modellen?

In de praktijk zijn algoritmes in beheer te vergelijken met ICT-applicaties. Net zoals in applicaties wordt aan de hand van bepaalde input een proces uitgevoerd om tot het gewenste resultaat te komen. Let er wel op dat er een wezenlijk verschil zit in de manier waarop dit proces wordt uitgevoerd.

Periodieke controle op de werking van applicaties in termen van kwaliteit, snelheid, stabiliteit, veiligheid en robuustheid is meer regel dan uitzondering. Dat is ook wenselijk om in controle te zijn van algoritmes, maar een zogeheten monitoringsplan gaat met de AI-verordening zelfs een vereiste worden voor AI-systemen. In het specifiek voor algoritmes is het belangrijk om ook scherp te zijn op discriminatoire bias en hoe menselijk toezicht is ingericht.

Hoe zorgvuldig een algoritme ook is ontwikkeld, afstemming tussen beleid en uitvoering is essentieel voor volledig verantwoord gebruik. Steeds meer organisaties hebben de kennis en kunde in huis om zelf op een zorgvuldige wijze algoritmes te ontwikkelen. Deze organisaties hebben goed grip op hoe de data door het algoritme stroomt. De ontwikkelaars weten welke keuzes zijn gemaakt en welke aannames zijn gedaan. 

Tot slot zijn ze bewust van de impact van de gebruikte data en gemaakte keuzes op de uitkomst. Net als deskundige kappers, weten deze algoritmeontwikkelaars hoe ze tot een mooi eindresultaat moeten komen. Maar om dit gewenste eindresultaat te bereiken, hebben de ontwikkelaars sturing nodig. 

Enerzijds vraagt de connectie tussen beleid en uitvoering om voldoende kennis over het gebruik van algoritmes in de managementlaag. Managers moeten in staat zijn om samen met de uitvoering de kaders te bepalen en kritische vragen te stellen. 

Anderzijds vraagt dit om diepgaand begrip over de context van de data en de betekenis van aannames bij de ontwikkelaars. 

Jij verwacht toch ook van jouw kapper dat je advies krijgt als het door jou gewenste nieuwe kapsel veel onderhoud vergt of totaal niet past bij de vorm van je gezicht? 

En wat als je al bent begonnen met de ontwikkeling van een AI-systeem zonder duidelijke instructies, maar wel in control wilt zijn? Er is vaak geen centraal overzicht welke algoritmes gebruikt worden en als dat er wel is, verschilt de manier van documenteren per afdeling of zelfs per algoritme. 

Hoe weet je welke algoritmes reeds gebruikt worden in jouw organisatie en waar deze voor worden ingezet? Om de stap naar transparantie en verantwoording zo klein mogelijk te maken, is het hebben van één overzicht hierbij behulpzaam. Randvoorwaardelijk is naast dit overzicht een duidelijke governancestructuur en management systeem, zoals ISO 42001, ten aanzien van de actieve algoritmes: wie is verantwoordelijk, voor wat en wanneer? En wie mag besluiten over welke wijzigingen doorgevoerd zullen worden? Hoe schatten we risico's en impact in en welke maatregelen nemen we om de risico's te beperken? 

Klinkt dit herkenbaar voor jou of jouw werkomgeving? Wil je ook in staat zijn om transparant te zijn over de actieve algoritmes en verantwoording kunnen afleggen?

• Richt een duidelijke en uitvoerbare governance, processen en systematiek (zoals ISO42001) in.
• Betrek de juiste kennis in de hele algoritmelevenscyclus – van ontwerp tot inzet– in alle lagen van je organisatie.
• Toets je organisatie en algoritmes - incl. AI systemen - op eenzelfde wijze zoals je dat ook bij informatiebeveiliging doet.
• Verbeter transparantie en de mogelijkheid tot verantwoording door een algoritmeregister op te zetten of te verbeteren.