Deel 1: De basics van AI-ethiek

Om de vraag te beantwoorden waar AI-ethiek over gaat, beginnen we altijd met het definiëren van wat een AI-systeem is. De definitie uit de EU AI Verordening is een handige plek om te beginnen. AI-systemen zijn “machine-based” en “ontworpen om te werken met verschillende niveaus van autonomie en [...] kunnen adaptiviteit vertonen na implementatie”.¹ Het systeem produceert een output die direct invloed heeft op zijn (virtuele) omgeving op basis van een input die het ontvangt. ‘Output’ kan hier de productie van content, een voorspelling of een geautomatiseerde actie betekenen. Deze AI-systemen zoals expertsystemen, machine learning, deep learning of ‘foundations models’ brengen morele vragen, dilemma’s en kansen met zich mee. Simpel gezegd gaat AI-ethiek over deze uitdagingen.

Deze uitdagingen zijn tweezijdig: voor elk AI-systeem zijn er risico’s die vermeden moeten worden en voordelen die behaald moeten worden. AI-ethiek houdt zich daarom bezig met deze maatschappelijke plichten om leed te voorkomen en het goede te doen.²

Voor publieke organisaties spelen niet alle ethische uitdagingen met betrekking tot AI tegelijkertijd een rol. Ethische reflectie op AI-toepassingen is altijd een gesitueerde aangelegenheid waarbij context enorm belangrijk is. Als eerste stap is het daarom nuttig om vragen te stellen over de context:

• Waarom streven we naar een AI-oplossing voor het probleem dat we hebben? 

• Met welke organisatorische en maatschappelijke waarden heeft het probleem dat het AI-systeem oplost te maken? 

• Welke belanghebbenden worden beïnvloed in de verschillende fasen van de ontwikkeling en implementatie van het AI-systeem? 

Door deze vragen serieus te nemen, onderbouwt u de ethiek van AI voor uw organisatie.

Om deze vragen te beantwoorden, moet een organisatie ten minste drie dingen verduidelijken: (1) de relatie van het AI-systeem met publieke waarden; (2) hoe de AI-toepassing in de maatschappij is ingebed; en (3) welke conceptuele tools nuttig zijn voor het opzetten van ethische AI. We leiden u door elk van deze aspecten.

Vanwege het gebruiksscenario heeft een AI-systeem betrekking op bepaalde publieke waarden. We moeten goed op deze waarden letten, omdat ze zowel bedreigd als versterkt kunnen worden. Bijvoorbeeld, in een systeem dat gevoelige persoonlijke informatie verwerkt voor algoritmische besluitvorming, zijn de direct gerelateerde waarden privacy, uitlegbaarheid en billijkheid. Er staan andere waarden op het spel wanneer machine learning wordt toegepast op milieu gerelateerde uitdagingen. Voor het bestrijden van hittestress, het managen van logistiek of het besparen van energie, moeten we letten op duurzaamheid, nauwkeurigheid en sociale controle. Het is duidelijk dat verschillende waarden verschillende ethische vragen en middelen vereisen. Maar in elk geval is het iteratief bevragen van de keuzes die ten grondslag liggen aan het AI-systeem en het begrijpen van de contextuele waarden noodzakelijk. Een voorbeeld van een ontwerpmethodologie die precies dit benadrukt, is ‘value sensitive algorithm design’ of kortweg VSAD.³ In VSAD vormt het gedetailleerd documenteren van de waarden van de betrokken belanghebbenden de basis van het volledige ontwerpproces. 

Elke AI-toepassing is een socio-technisch systeem.⁴ AI is altijd ingebed in de sociale rol van de organisatie die het implementeert. Het ‘ethische profiel’ van het AI-systeem wordt bepaald door de actoren die betrokken zijn bij het ontwerp en die ermee interacteren in de productiefase. Deze feiten zetten aan tot nadenken over wat stakeholders hebben bijgedragen aan de AI-systemen in tegenstelling tot hoe andere stakeholders door het AI-systeem worden beïnvloed. Een nuttige manier om hierover na te denken is middels het idee van ‘participatieve AI’. Dit perspectief benadrukt noodzaak van participatie en schrijft voor dat de door het systeem geraakte stakeholders ook betrokken moeten worden bij het ontwerp van en de discussie over het AI-systeem. Op zijn minst moeten ze adequaat geraadpleegd zijn.⁵ In het geval van publieke organisaties die actief zijn in het sociale domein, is de betrokkenheid van stakeholders dé centrale ethische zorg. Zo kan betrokkenheid van stakeholders algoritmische vooroordelen in de dataverzamelingsfase minimaliseren. Ook kan de introductie van stakeholders bijdragen aan het datacuratieproces door de juiste classificerende outputs voor het systeem te bepalen. Kortom: als stakeholders worden onderworpen aan de output van een AI-systeem, zouden ze ook betrokken moeten worden bij de evaluatie van het systeem.

Ten slotte is het belangrijk om te weten wat er in de gereedschapskist zit voor de uitvoering van AI-ethiek. Verschillende ethische perspectieven zijn de ‘conceptuele tools’ waarmee ethiek bedreven wordt. Deze perspectieven zijn vaak complementair en benadrukken verschillende aspecten van hetzelfde ‘goede’ of ‘slechte’ gebruik van een systeem.⁶ Men kan zich bijvoorbeeld afvragen welke gebruiken van het AI-systeem men wil cultiveren of waartegen men voorzorgsmaatregelen wil nemen. Dit is complementair met het stellen van de vraag hoe het AI-systeem de relaties tussen belanghebbenden kan versterken, dan wel kan bedreigen. Nog andere benaderingen zijn het maken van een schade/voordelen-analyse van de gevolgen van het systeem of het nadenken over de rechten en plichten van gebruikers, ontwikkelaars en leveranciers van AI-systemen.

Hebt u het gevoel dat u niet over de middelen en knowhow beschikt om AI-ethiek tot slagen te brengen? Inzicht krijgen in de relaties van uw AI-systemen met publieke waarden en stakeholders is een uitdaging en vraagt veel competentie. Highberg biedt de on-demand inzet van een AI ethics officer zodat uw organisatie meteen continuïteit kan leveren op het gebied van ethische en verantwoordelijke AI.

In de volgende inleiding laten we zien waarom het beoefenen van AI-ethiek een ‘must have’ is in plaats van een ‘could have’. We verduidelijken hoe je risicobeperking in evenwicht brengt met het oogsten van de voordelen van AI. Kun je het risico niet lopen de implementatie van AI-ethiek uit te stellen? Neem contact op met ons AI-ethiekteam om vandaag nog te beginnen met het ‘waarom, hoe, waar en wanneer’ van AI-ethiek.

1. Europese Commissie, “AI Act,” Article 3.1.
2. Sven Nyholm, “What Is This Thing Called the Ethics of AI and What Calls for It,” in Handbook on the Ethics of Artificial Intelligence, ed. David J. Gunkel, (Edward Elgar Publishing, 2024), 13-26.
3. Vergelijk de toepassing van VSAD in: Wynand Lambrechts, Saurabh Sinha and Sarah Mosoetsa, “Colonization by Algorithms in the Fourth Industrial Revolution,” IEEE (2022): 11057-11065.
4. Ibo van de Poel, “Embedding Values in Artificial Intelligence (AI) Systems,” Minds and Machines 30, no. 3 (2020): 385-409.
   
5. Zie: Abeba Birhane, et al., “Power to the People? Opportunities and Challenges for Participatory AI,” EAAMO '22: Proceedings of the 2nd ACM Conference on Equity and Access in Algorithms, Mechanisms, and Optimization (2022): 1-8.
6. Marc Steen, “Ethische aspecten bij het ontwikkelen en toepassen van AI. Een methode voor reflectie en de-liberatie,” Justitiële verkenningen 50, no. 1 (2024): 109-126.