Deel 1: De basics van AI-ethiek

‘Wat houdt de ethiek van AI eigenlijk in?’ Deze vraag krijgen we vaak van publieke organisaties. AI en ethiek samenvoegen lijkt op het eerste gezicht misschien vreemd. Maar ethische vragen stellen is essentieel om AI te laten werken voor uw organisatie. Geen enkele automatiseringstechnologie is een ‘quick fix’ voor de moeilijke maatschappelijke problemen waarmee publieke organisaties te maken hebben. Alleen AI-systemen die ‘sensible by design’ zijn, goed doordacht en ethische risico’s uit de weg gaan, slagen erin om deze problemen op te lossen. Denk aan het effectiever maken van de gezondheidszorg, het efficiënt delen van informatie met belanghebbenden en het versterken van de sociale zekerheid en het welzijn.

Het is daarom de moeite waard om te onderzoeken welke rol ethiek speelt bij het toepassen van AI op maatschappelijke uitdagingen.

placeholder

Wat is AI-ethiek?

Om de vraag te beantwoorden waar AI-ethiek over gaat, beginnen we altijd met het definiëren van wat een AI-systeem is. De definitie uit de EU AI Verordening is een handige plek om te beginnen. AI-systemen zijn “machine-based” en “ontworpen om te werken met verschillende niveaus van autonomie en [...] kunnen adaptiviteit vertonen na implementatie”.1 Het systeem produceert een output die direct invloed heeft op zijn (virtuele) omgeving op basis van een input die het ontvangt. ‘Output’ kan hier de productie van content, een voorspelling of een geautomatiseerde actie betekenen. Deze AI-systemen zoals expertsystemen, machine learning, deep learning of ‘foundations models’ brengen morele vragen, dilemma’s en kansen met zich mee. Simpel gezegd gaat AI-ethiek over deze uitdagingen.

Deze uitdagingen zijn tweezijdig: voor elk AI-systeem zijn er risico’s die vermeden moeten worden en voordelen die behaald moeten worden. AI-ethiek houdt zich daarom bezig met deze maatschappelijke plichten om leed te voorkomen en het goede te doen.2

Begin met een vraag

Voor publieke organisaties spelen niet alle ethische uitdagingen met betrekking tot AI tegelijkertijd een rol. Ethische reflectie op AI-toepassingen is altijd een gesitueerde aangelegenheid waarbij context enorm belangrijk is. Als eerste stap is het daarom nuttig om vragen te stellen over de context:

  • Waarom streven we naar een AI-oplossing voor het probleem dat we hebben? 
  • Met welke organisatorische en maatschappelijke waarden heeft het probleem dat het AI-systeem oplost te maken? 
  • Welke belanghebbenden worden beïnvloed in de verschillende fasen van de ontwikkeling en implementatie van het AI-systeem? 

Door deze vragen serieus te nemen, onderbouwt u de ethiek van AI voor uw organisatie.

Om deze vragen te beantwoorden, moet een organisatie ten minste drie dingen verduidelijken: (1) de relatie van het AI-systeem met publieke waarden; (2) hoe de AI-toepassing in de maatschappij is ingebed; en (3) welke conceptuele tools nuttig zijn voor het opzetten van ethische AI. We leiden u door elk van deze aspecten.

(1) AI en publieke waarden

Vanwege het gebruiksscenario heeft een AI-systeem betrekking op bepaalde publieke waarden. We moeten goed op deze waarden letten, omdat ze zowel bedreigd als versterkt kunnen worden. Bijvoorbeeld, in een systeem dat gevoelige persoonlijke informatie verwerkt voor algoritmische besluitvorming, zijn de direct gerelateerde waarden privacy, uitlegbaarheid en billijkheid. Er staan andere waarden op het spel wanneer machine learning wordt toegepast op milieu gerelateerde uitdagingen. Voor het bestrijden van hittestress, het managen van logistiek of het besparen van energie, moeten we letten op duurzaamheid, nauwkeurigheid en sociale controle. Het is duidelijk dat verschillende waarden verschillende ethische vragen en middelen vereisen. Maar in elk geval is het iteratief bevragen van de keuzes die ten grondslag liggen aan het AI-systeem en het begrijpen van de contextuele waarden noodzakelijk. Een voorbeeld van een ontwerpmethodologie die precies dit benadrukt, is ‘value sensitive algorithm design’ of kortweg VSAD.3 In VSAD vormt het gedetailleerd documenteren van de waarden van de betrokken belanghebbenden de basis van het volledige ontwerpproces. 

(2) De relatie van AI tot de maatschappij

Elke AI-toepassing is een socio-technisch systeem.4 AI is altijd ingebed in de sociale rol van de organisatie die het implementeert. Het ‘ethische profiel’ van het AI-systeem wordt bepaald door de actoren die betrokken zijn bij het ontwerp en die ermee interacteren in de productiefase. Deze feiten zetten aan tot nadenken over wat stakeholders hebben bijgedragen aan de AI-systemen in tegenstelling tot hoe andere stakeholders door het AI-systeem worden beïnvloed. Een nuttige manier om hierover na te denken is middels het idee van ‘participatieve AI’. Dit perspectief benadrukt noodzaak van participatie en schrijft voor dat de door het systeem geraakte stakeholders ook betrokken moeten worden bij het ontwerp van en de discussie over het AI-systeem. Op zijn minst moeten ze adequaat geraadpleegd zijn.5 In het geval van publieke organisaties die actief zijn in het sociale domein, is de betrokkenheid van stakeholders dé centrale ethische zorg. Zo kan betrokkenheid van stakeholders algoritmische vooroordelen in de dataverzamelingsfase minimaliseren. Ook kan de introductie van stakeholders bijdragen aan het datacuratieproces door de juiste classificerende outputs voor het systeem te bepalen. Kortom: als stakeholders worden onderworpen aan de output van een AI-systeem, zouden ze ook betrokken moeten worden bij de evaluatie van het systeem.

(3) Hulpmiddelen voor het beoefenen van AI-ethiek

Ten slotte is het belangrijk om te weten wat er in de gereedschapskist zit voor de uitvoering van AI-ethiek. Verschillende ethische perspectieven zijn de ‘conceptuele tools’ waarmee ethiek bedreven wordt. Deze perspectieven zijn vaak complementair en benadrukken verschillende aspecten van hetzelfde ‘goede’ of ‘slechte’ gebruik van een systeem.6 Men kan zich bijvoorbeeld afvragen welke gebruiken van het AI-systeem men wil cultiveren of waartegen men voorzorgsmaatregelen wil nemen. Dit is complementair met het stellen van de vraag hoe het AI-systeem de relaties tussen belanghebbenden kan versterken, dan wel kan bedreigen. Nog andere benaderingen zijn het maken van een schade/voordelen-analyse van de gevolgen van het systeem of het nadenken over de rechten en plichten van gebruikers, ontwikkelaars en leveranciers van AI-systemen.

Oké, ik begrijp wat AI-ethiek inhoudt: wat nu?

Hebt u het gevoel dat u niet over de middelen en knowhow beschikt om AI-ethiek tot slagen te brengen? Inzicht krijgen in de relaties van uw AI-systemen met publieke waarden en stakeholders is een uitdaging en vraagt veel competentie. Highberg biedt de on-demand inzet van een AI ethics officer zodat uw organisatie meteen continuïteit kan leveren op het gebied van ethische en verantwoordelijke AI.

In de volgende inleiding laten we zien waarom het beoefenen van AI-ethiek een ‘must have’ is in plaats van een ‘could have’. We verduidelijken hoe je risicobeperking in evenwicht brengt met het oogsten van de voordelen van AI. Kun je het risico niet lopen de implementatie van AI-ethiek uit te stellen? Neem contact op met ons AI-ethiekteam om vandaag nog te beginnen met het ‘waarom, hoe, waar en wanneer’ van AI-ethiek.

Referenties

  1. Europese Commissie, “AI Act,” Article 3.1.
  2. Sven Nyholm, “What Is This Thing Called the Ethics of AI and What Calls for It,” in Handbook on the Ethics of Artificial Intelligence, ed. David J. Gunkel, (Edward Elgar Publishing, 2024), 13-26.
  3. Vergelijk de toepassing van VSAD in: Wynand Lambrechts, Saurabh Sinha and Sarah Mosoetsa, “Colonization by Algorithms in the Fourth Industrial Revolution,” IEEE (2022): 11057-11065.
  4. Ibo van de Poel, “Embedding Values in Artificial Intelligence (AI) Systems,” Minds and Machines 30, no. 3 (2020): 385-409.
  5. Zie: Abeba Birhane, et al., “Power to the People? Opportunities and Challenges for Participatory AI,” EAAMO '22: Proceedings of the 2nd ACM Conference on Equity and Access in Algorithms, Mechanisms, and Optimization (2022): 1-8.
  6. Marc Steen, “Ethische aspecten bij het ontwikkelen en toepassen van AI. Een methode voor reflectie en de-liberatie,” Justitiële verkenningen 50, no. 1 (2024): 109-126.

Grelateerde Insights

divider