AI-Ethiek: Elke organisatie een Ethics Officer?

Door Erik de Ruiter

Steven Spielberg’s ‘Minority Report’ schetst een dystopische toekomstvisie waarin enkele individuen misdaden kunnen voorspellen voordat ze gebeuren. Interessant, maar wat als deze voorspellingen onjuist zijn, zoals in de film ook wel eens gebeurde? Dit soort vragen zijn inmiddels ook buiten Hollywood aan de orde van de dag. Dankzij de geavanceerde computertechnologie worden steeds verfijndere algoritmes ontwikkeld. De afgelopen tien jaar heeft ons geleerd dat risico’s in de toepassing ervan niet altijd de aandacht hebben gekregen die het achteraf gezien nodig had. Zo onthulde ‘Follow The Money’ recentelijk dat de Nederlandse politie tot 2015 een algoritme gebruikte dat mede op basis van etniciteit het risico op crimineel gedrag inschatte. Dit kon leiden tot preventieve en repressieve maatregelen zoals een persoonsgerichte aanpak. Een op de persoon gerichte benadering kan betekenen dat de politie sneller actie onderneemt, zoals preventief fouilleren, het in beslag nemen van geld en kostbaarheden, en zelfs het bieden van verplichte zorg. Daarnaast kan er bij gezinnen geïntervenieerd worden om te voorkomen dat andere gezinsleden, zoals broers en zussen, ook een verkeerde weg inslaan. Ook in andere publieke initiatieven, zoals SyRI en de toeslagenaffaire hebben organisaties voorspellende algoritmes gebruikt, met soms verstrekkende gevolgen.

Met de opkomst van kunstmatige intelligentie, zoals Chat-GPT, kunnen we enorme datasets analyseren en patronen identificeren. Echter, de toenemende kracht van AI maakt het ook uitdagend om de ethische aspecten van een algoritme te beoordelen.

Hoewel voorspellende systemen waardevol kunnen zijn, is het essentieel dat er goed toezicht is om (onbedoelde) misstanden te voorkomen. Gezien de complexiteit van deze systemen, benadruk ik het belang van data ethiek binnen publieke organisaties, vooral in combinatie met AI. Wij noemen dit AI-Ethiek. Dit kan beginnen met het aanstellen van een specialist in data-ethiek, waarmee de organisatie deze verantwoordelijkheid formeel belegt. In dit artikel bespreek ik daarom de rol van een Data Ethics Officer.

placeholder

Wat houdt de functie van een Data Ethics Officer in?

Een Data Ethics Officer, soms ook aangeduid als Chief Data Ethics Officer (CDEO), draagt de verantwoordelijkheid voor het handhaven van de ethische standaarden binnen een organisatie in al haar handelingen en besluiten. Dit houdt in dat deze professional toeziet op en richting geeft aan besluitvorming die in lijn ligt met de ethische principes van de organisatie.

Met betrekking tot datagebruik zorgt een Data Ethics Officer ervoor dat de organisatie data op een integere wijze verzamelt, analyseert en toepast. Hierbij staan de kernwaarden van de eigen organisatie centraal, bijvoorbeeld privacy, gelijkheid, transparantie en rechtvaardigheid. Zodra het in de organisatie niet duidelijk wat deze waarden zijn zal de Data Ethics Officer op zoek gaan naar een manier om deze boven water te krijgen.

De rol van de Data Ethics Officer is niet louter adviserend. Deze professional dient actief beleid te vormen en uit te voeren, trainingen te verzorgen en in dialoog te treden met zowel interne teams als met externe belanghebbenden zoals burgers en andere actoren die geraakt worden door een datatoepassing om te waarborgen dat data ethiek diep verankerd wordt in de organisatiecultuur.

Binnen (semi) publieke instellingen krijgt de Data Ethics Officer een nog prominentere rol. Hier staat het vertrouwen van de burger voorop, wat het essentieel maakt om met uiterste zorg en transparantie om te gaan met data en bijbehorende ethische kwesties.

Waarom een Data Ethics Officer?

Voor (semi) publieke organisaties zijn er veel voordelen:

  1. Burger centraal: In lijn met de trend om de burger centraal te stellen, zorgt een ethische benadering dat hun belangen beter worden beschermd. Dit kan veel ellende voorkomen voor burgers omdat ongewenste effecten worden voorkomen.
  2. Risicovermindering: Een ethische aanpak verkleind de kans op schandalen die op lange termijn kostbaar kunnen zijn, zowel financieel als voor het imago van de organisatie.
  3. Transparantie naar de burger: Een ethische benadering vergroot de transparantie, wat weer vertrouwen schept bij de burger.
  4. Strategische voorsprong: Organisaties die ethische vraagstukken op een goede manier weten te adresseren hebben een competitief voordeel en zijn beter voorbereid op toekomstige uitdagingen en regelgeving.
  5. Advies WRR: De Wetenschappelijke Raad voor het Regeringsbeleid (WRR) raadt de overheid aan om kennis over AI binnen het ambtenarenapparaat te vergroten. De reden hiervoor is dat door de toepassing van AI, het steeds ingewikkelder wordt om te doorgronden waarom een systeem een bepaalde beslissing neemt. Door een Data Ethics Officer aan te nemen kan een invulling worden gegeven aan deze oproep.

Maar zijn er ook risico’s? Absoluut. Het is essentieel om waakzaam te zijn zodat ethisch toezicht niet slechts een ‘papieren tijger’ wordt. En ja, sommige beleidsinitiatieven kunnen vertraging oplopen of zelfs worden gestaakt vanwege ethische overwegingen. Echter, met de juiste structuur en ondersteuning worden deze risico’s meer dan gecompenseerd door de voordelen.

Hoe zorg ik dat zo’n Data Ethics Officer een succes wordt?

  1. Formalisering: Net zoals een privacy officer of CISO een vaste rol heeft binnen organisaties, moet een Data Ethics Officer ook een vaste plek krijgen.
  2. Mandaat en Differentiatie: Deze rol moet bevoegdheden krijgen, of dit nu besluitvormingsbevoegdheid is of het geven van zwaarwegende adviezen. Daarnaast moet de organisatie onderscheid maken tussen dagelijkse ethische kwesties en algemene kwesties die bijvoorbeeld door een ethische commissie worden beoordeeld.
  3. Beleidsontwikkeling: De Data Ethics Officer stelt beleid op rondom digitale ethische vraagstukken en is actief op zoek naar deze vraagstukken binnen de organisatie.
  4. Toezicht: Om te waarborgen dat het beleid effectief wordt uitgevoerd, dient de Data Ethics Officer erop toe te zien dat het daadwerkelijk wordt nageleefd. Hiermee wordt voorkomen dat de functie enkel in theorie succesvol is.
  5. Bewustzijn: De gehele organisatie moet zich bewust zijn van de ethische overwegingen bij het inzetten van data. Bij elk werkvoorstel hoort naast een juridische, duurzaamheids- en financiële ook een ethische paragraaf te worden opgenomen.

In het digitale tijdperk is ethisch toezicht geen optie, maar een vereiste. De publieke sector moet hierin vooroplopen. Laten we leren van het verleden en streven naar een toekomst waarin datagebruik, AI en ethiek hand in hand gaan. Aithiek dus.

Ga met mij in gesprek

Vind je dit interessant of wil je reageren op de roep om een Data Ethics Officer te implementeren? Neem dan contact op met Erik de Ruiter via Highberg of via LinkedIn.