AI in het regeerprogramma – over innovatie, kaders en ontregeling

AI moet ons in de toekomst veel werk uit handen nemen. Genoemd worden onder andere de inzet van diagnostische AI in de zorg, AI-modellen voor risicogebaseerd markttoezicht en generatieve AI op plekken waar het opstellen en lezen van documenten veel tijd in beslag neemt. Daarnaast zal AI worden ingezet voor verbetering van de dienstverlening van de overheid en wordt geïnvesteerd in een ecosysteem met supercomputers voor nieuwe ontwikkelingen.

In één adem met deze praktische AI-toepassingen noemt het regeerprogramma de noodzaak van kaders voor verantwoord gebruik ervan. Dit oog hebben voor “de menselijke maat” is een les die we de afgelopen jaren wel hebben geleerd. Meer inzet van AI betekent dus automatisch ook een toenemende noodzaak om ervoor te zorgen dat deze inzet verantwoord gebeurt. Waarbij verantwoord niet alleen betekent dat dit binnen de wettelijke grenzen plaatsvindt, maar ook dat voldoende rekening wordt gehouden met andere risico’s die zich bij het gebruik van data en AI kunnen voordoen. Hoe betrouwbaar zijn bijvoorbeeld de data en de uitkomsten van een model nu echt? En hoe goed ben je als organisatie voorbereid als er onverhoopt toch mensen in de knel komen?

Kaders voor verantwoord datagebruik zijn geen overbodige luxe. Tegelijkertijd betekent het daadwerkelijk hanteren van deze kaders dat hiervoor tijd en aandacht nodig is, dus menskracht. En die is schaars. Een belangrijke vraag is dus hoe ervoor we gaan zorgen dat de toepassing van die kaders ook echt een plek gaat krijgen zonder een extra “hoepel” te introduceren. De gedachte in het regeerprogramma is immers om door de inzet van AI met minder menskracht meer meters te kunnen maken. In de zorg wordt zelfs expliciet ingezet op “ontregelen”, wat in deze context niet het scheppen van chaos betekent, maar het verlagen van de regeldruk. De vraag is hoe vanuit dit oogpunt tegen een kader voor verantwoord datagebruik zal worden aangekeken. Belangrijk is dus dat dit niet als toch weer extra regeldruk wordt ervaren, maar als logisch onderdeel van de nieuwe manier van werken. Waarbij je door de juiste dingen te doen en te laten, met de mensen en middelen die je hebt tot betere resultaten kunt komen dan daarvoor.

Hoe zou een dergelijk kader voor verantwoord datagebruik eruit moeten zien? In ieder geval niet als een vragenlijst. Dus iets wat je afvinkt en dan weer opbergt. Iets wat tijd kost en waar je wel of niet je best op kunt doen. Hoe dan wel?

Bij Highberg zijn we hier al een tijdje actief mee aan de slag en onze aanpak lijkt bijzonder goed aan te sluiten op bovenstaande vraag. De kern is dat verantwoord gebruik van data en AI gezien moet worden als een asset, iets wat je nodig hebt om “in business” te zijn. Geen kostenpost dus, maar een capability, waarin je investeert omdat dit van wezenlijke meerwaarde is voor je organisatie. Onderdeel van een dergelijk kader zijn in ieder geval:

Mindset: verantwoorde inzet van data en AI is onderdeel van de kwaliteit van de dienstverlening

Vertrouwen op data, algoritmen en AI zónder dat je voor de betrouwbaarheid ervan kunt instaan betekent dat je bewust risico neemt met de mensen die op je diensterlening vertrouwen. Dit raakt direct aan je bestaansrecht als organisatie en is, zeker voor de overheid, geen optie.

Skillset: risico’s worden geadresseerd op basis van kennis

Omdat verantwoord datagebruik een essentieel onderdeel is van wat je levert, moet je ervoor zorgen dat je hiervoor de juiste kennis en vaardigheden in huis hebt. Op het gebied van wetgeving, maar ook met betrekking tot het data-ethiek, data-analyse en de technische mogelijk- en onmogelijkheden. Vanuit deze kennis kan worden bepaald wat de risico’s zijn en welke vragen je moet stellen. De beantwoording is vervolgens teamwork. Dat er risico’s zijn betekent niet dat je niet door kunt. Maar dan heb je wel een bewuste risico-afweging gemaakt en zo nodig maatregelen genomen.

Werkwijze: smart from the start

Niet alle vragen hoeven direct beantwoord te worden, mits ze op het juiste moment worden geadresseerd. Concentreer je in de beginfase op die vragen die dan actueel zijn. Dus al wel de wat-vraag, maar nog niet de hoe-vraag. Behandel de onderwerpen die aan de orde zijn zoveel mogelijk in samenhang. Betrouwbaarheid is bijvoorbeeld niet alleen een eis vanuit de AVG, maar is ook relevant vanuit de AI Act en vanuit ethisch oogpunt. Daarnaast is het belangrijk om niet pas over een onderwerp te gaan nadenken als er een assessment voor de deur staat, maar hier al vanaf het begin rekening mee te houden. Zodat je niet “opeens” tegen een muur aanloopt, maar al een geruime tijd ervoor een ladder hebt kunnen neerzetten.

Vertalen we het bovenstaande terug naar het regeerprogramma, dan zou je als overheid de volgende koers kunnen kiezen:

1. Breng in beeld op welke plekken data en AI ertoe kunnen bijdragen dat maatschappelijke opgaven beter, sneller en slimmer kunnen worden opgepakt.
2. Richt investeringen niet alleen op deelprojecten, maar zorg er ook voor dat de organisatie waarin een datatoepassing moet gaan landen actief op de nieuwe manier van werken wordt voorbereid.
3. Ontwikkel een werkwijze waarin alle expertises op het gebied van verantwoord datagebruik vanaf het begin betrokken zijn, zodat de juiste vragen op het juiste moment naar boven komen.

Ben je benieuwd hoe een dergelijke aanpak er in de praktijk uit zou kunnen zien? Of je vindt het interessant om hier eens vrijblijvend over verder te praten? Neem dan gerust contact op met ons op.

*: het regeerprogramma is te vinden op www.rijksoverheid.nl/regering/regeerprogramma