Omarm AI, maar doe dit ethisch verantwoord

De ontwikkelingen rondom artificial intelligence (AI) gaan razendsnel. AI is doorgedrongen in ons dagelijks leven, maar wordt er ook gedacht aan de ethische kant ervan? In gesprek met Muel Kaptein over hoe AI ons op allerlei terreinen gaat raken en over essentiële ethische vraagstukken die dit met zich meebrengt.

Wat is uw motivatie om u te verdiepen in AI?

“Van huis uit ben ik bedrijfskundige. Wat ik tijdens mijn studie miste was ethiek. Daarom heb ik dit vanaf 1991 zelf opgepakt. Ethiek gaat over de moraal: wat is goed en wat niet, wat deugt en wat niet, wat mag en wat niet. Je kunt met een ethische blik naar zaken uit het verleden kijken, maar dat is alleen maar terugkijken naar voldongen feiten. Ik vind het juist interessant om vooruit te kijken, naar wat er op ons af komt en wat handelingsperspectief biedt. Het gaat voor mij om de ethiek van morgen en niet van gisteren. Daarom mijn fascinatie voor AI. AI gaat in de toekomst nog veel meer ons leven en werken bepalen. Het is daarom cruciaal te doordenken wat AI aan ethiek met zich meebrengt. Want zonder ethiek zal AI grote negatieve gevolgen hebben.”

Wat zijn die gevolgen?

“AI brengt een hoop goede dingen met zich mee, maar AI kan ook verkeerd uitpakken. Een verkeerde of onethische inzet van AI kan tot allerlei wanpraktijken leiden. AI kan gemakkelijk leiden tot fraude, diefstal, privacy-inbreuk en discriminatie. De overheid kan er inmiddels uit eigen pijnlijke ervaring over meepraten. Denk bijvoorbeeld aan de toeslagenaffaire. Daarom moeten organisaties van tevoren goed nagaan op welke manier zij zich wapenen tegen de gevaarlijke kant van AI.”

Hoe beïnvloedt AI ons leven nu?

“Het toepassen van AI bepaalt nu al ons dagelijks leven. AI zit eigenlijk in ontzettend veel apparatuur, zoals computers, telefoons en tv’s. Maar ook in auto’s, huishoudelijke apparatuur en bijvoorbeeld beveiligingspoortjes. Internet is een en al AI. In India zijn er zelfs al avatars die het nieuws op tv lezen. Met de recente introductie van ChatGPT en Google Bard gaat een wereld aan AI-toepassingen open. We worden ons steeds meer bewust van de mogelijkheden en gevaren van AI. In het onderwijs kunnen studenten heel makkelijk informatie krijgen met ChatGPT. Met behulp van dergelijke software kunnen hele verslagen en scripties worden opgesteld. Aan de ene kant vergt dit van onderwijsinstellingen studenten te leren hier op de juiste manier mee om te gaan. Aan de andere kant vergt het van onderwijsinstellingen te bepalen hoe het werk van studenten te beoordelen en hoe misbruik zoals plagiaat te achterhalen.”

“AI moet rechtmatig, rechtvaardig, zorgvuldig en transparant zijn. Dat zijn fundamentele waarden die bij AI op het spel staan”

Is ethiek dan een oplossing?

“Ethiek helpt om te bepalen wat we moeten beschermen en respecteren. AI moet rechtmatig, rechtvaardig, zorgvuldig en transparant zijn. Dat zijn fundamentele waarden die bij AI op het spel staan. Maar het gaat ook om uitlegbaarheid. Uitlegbaarheid wil niet zeggen dat iedereen moet kunnen uitleggen hoe AI werkt. Uitlegbaarheid kan überhaupt niet bij geavanceerde AI. Ethiek helpt ook om te bepalen hoe met conflicterende waarden om te gaan. Wat te doen als rechtvaardigheid botst met transparantie, zoals hoe open een organisatie moet zijn als het AI inzet om fraude op te sporen. Daarnaast helpt ethiek bij het bepalen van hoe we de belangrijke AI-waarden inbedden in een organisatie.”

Hoe zou je invulling moeten geven aan ethiek?

“Steeds meer organisaties hebben op het gebied van AI een eigen gedragscode. Dat is mooi, want dat laat zien dat organisaties serieus en weloverwogen met AI-ethiek bezig zijn. De volgende vraag is dan wel hoe deze code wordt ingevoerd. Beschikt de leiding van de organisatie over voldoende AI-kennis om de kansen en risico’s van AI te beoordelen? Worden medewerkers getraind in de omgang met AI? Heeft de organisatie een algoritmeregister? Is er een commissie data-ethiek? Vindt er voorafgaande toetsing plaats van nieuwe algoritmes? Vinden er audits plaats op de toepassing van AI?”

Wat zijn belangrijke principes voor een verantwoorde toepassing van AI?

“Een belangrijk AI-principe is verantwoordelijkheid. Uiteindelijk moeten het altijd mensen zijn die de verantwoordelijkheid dragen voor het gebruik en de uitkomsten van AI. Een ander belangrijk AI-principe is vertrouwelijkheid. Het gaat er dan om dat AI de vertrouwelijkheid van gegevens beschermt. Rechtmatigheid en rechtvaardigheid zijn ook fundamentele principes. Deze principes zijn belangrijk, omdat algoritmes gebaseerd zijn op data uit het verleden. AI, en dan vooral generatieve AI, versterkt daardoor zichzelf. Ook al is een algoritme zelf niet discriminerend, het kan toch discriminerende effecten hebben als bepaalde groepen mensen die irrelevante kenmerken hebben structureel aan het kortste of langste eind trekken.”

En zorgvuldigheid?

“Uiteraard is zorgvuldigheid ook een principe, evenals transparantie. Als bijvoorbeeld iemand contact opneemt met een organisatie dan moet het voor deze persoon duidelijk zijn of zijn stem wordt geanalyseerd door AI en of de vervolgroute van het gesprek hiervan afhangt. Evenzo moet het duidelijk zijn in hoeverre een organisatie rekening houdt met het eerdere zoekgedrag of de buurt waarin de bezoeker van de website woont. Dit zijn riskante verdienmodellen, vandaar de kritiek op organisaties die hiervan heimelijk gebruikmaken. Transparantie gaat dus niet alleen om wat een algoritme doet, maar ook om wanneer deze wordt toegepast.”

Is er voldoende aandacht voor ethiek en voor deze principes?

“Aan de ene kant is er gelukkig veel aandacht voor AI-ethiek. We snappen het belang van AI-ethiek en de ethische risico’s van AI steeds meer. AI is niet meer weg te denken en wordt steeds belangrijker, dus het draagvlak is er om meer over de ethiek van AI na te denken. Toch zie ik veel organisaties een afwachtende houding aannemen. Deze organisaties komen pas echt in actie als wetten van buitenaf worden opgelegd. Gelukkig zijn er ook proactieve organisaties die AI-ethiek wel oppakken.”

Wat betekent dit voor interne auditors?

“AI kun je opnemen als auditobject. Je kunt als interne auditor dan nagaan of de organisatie voldoende gebruikmaakt van AI en of de organisatie in control is op dit vlak. Wanneer organisaties zeggen dat AI bij hen nog niet speelt dan is dit waarschijnlijk een blinde vlek en worden er enorme kansen gemist. Relevant is dan trouwens te achterhalen waarom de organisatie terughoudend is met het gebruiken van AI. Een interne auditor kan de ogen van het bestuur openen om deze kansen te belichten. Evenzo kan een interne auditor de ogen van het bestuur openen door de ethische risico’s van AI in kaart te brengen. AI is trouwens niet alleen een object maar ook een instrument voor de audit. Benutten we als auditors de kansen die AI biedt en zijn we in dat opzicht in control?”

Wat ziet u in de praktijk terug bij auditafdelingen?

“Het auditen van AI is veelal nog geen vast onderdeel van de jaarplanning van interne auditfuncties. Dit mag een versnelling hoger. Als het geen vast onderdeel van de agenda of van de jaaractiviteiten is, dan loop je als auditfunctie een groot risico. Het verkeerd gebruik van AI kan tot opspraak, schandalen en affaires leiden. Wanneer de toepassing van AI leidt tot grote schade en gedupeerde stakeholders rijst ongetwijfeld de vraag ‘waar was de interne auditor toen de organisatie uit de AI-bocht vloog?’ Er wordt op dit vlak veel verwacht van de interne auditor.”

“Het is belangrijk om oog te hebben voor de invloed van AI op de betrokkenheid, de verantwoordelijkheid en het welbevinden van medewerkers”

Hoe vlieg je een audit op AI aan?

“Een interessant auditthema is wat AI doet met de betrokkenheid van medewerkers in de organisatie. Naarmate een organisatie verder wordt geautomatiseerd en er meer gebruik wordt gemaakt van allerlei AI-toepassingen, is het belangrijk om oog te hebben voor de invloed hiervan op de betrokkenheid, de verantwoordelijkheid en het welbevinden van medewerkers. Hoe ervaren medewerkers AI? Werkt het vervreemdend en bedreigend of juist ondersteunend en bevrijdend?”

Hoe beïnvloedt AI het uitvoeren van de audit zelf?

“AI wordt steeds meer gebruikt in de uitvoering van de audit zelf. Grote databestanden kunnen met AI eenvoudig worden doorzocht waardoor inconsistenties en afwijkingen makkelijker aan het licht komen. Daarnaast is met behulp van AI tekstanalyse, sentimentanalyse en gezichtsherkenning mogelijk. Door middel van AI kunnen rapportages worden geschreven en gecontroleerd. Het rapport dient echter wel het rapport van de auditor te blijven. De auditor moet het rapport van A tot Z kunnen uitleggen. Als auditor kun je deze verantwoordelijkheid niet op AI afschuiven. Ik geloof sterk in de kansen die AI biedt voor interne auditfuncties. Tegelijkertijd staat de interne auditfunctie symbool voor de ethiek in de organisatie dus daarbij hoort dat de auditfunctie AI op een ethische manier inzet.”

Vergt dit nog iets van de competenties van de interne auditor?

“Dit is tweeledig. Ik denk dat iedere interne auditor een bepaalde mate van AI-kennis, expertise en vaardigheden behoort te hebben. Aan ieder auditobject zit al snel een AI-component. Als je geen verstand hebt van AI kun je het auditobject niet goed doorgronden. Binnen de hele functieafdeling is het daarnaast waardevol om specialisten op specifieke AI-onderdelen te hebben. Wanneer de interne auditfunctie zelf algoritmes ontwikkelt, is het verstandig échte AI-specialisten in het team te hebben. Daarnaast moet je als interne auditor AI leuk vinden. Het is misschien eng en je begeeft je op glad ijs, maar je kunt het ook zien als gaaf, innovatief en uitdagend. Je moet er energie van krijgen en passie voor hebben dat je de organisatie helpt op het gebied van AI. Daarom ben je interne auditor. Geen schrik maar schik!”

Wat is de rol van de mens, de burger, om zich te wapenen tegen de impact van AI?

“Je zou eigenlijk de assumptie moeten hebben dat overal waar je een computer, informatie of data gebruikt er AI is. AI is overal. Zo kan in beginsel iedere camera je gezichtsuitdrukkingen met AI lezen en daaruit een hoop aflezen. Het is vooral belangrijk hierop alert te zijn en te beseffen dat daarvan misbruik kan worden gemaakt. Dit klinkt misschien wantrouwend, alsof we geen computer meer kunnen openen of geen telefoon meer kunnen aanraken. Daarom denk ik dat we uiteindelijk niet te veel van de burger mogen verwachten. De grootste verantwoordelijkheid ligt bij organisaties zelf. De overheid kan dat faciliteren en kan op organisaties toezicht uitoefenen, maar het staat of valt met de verantwoordelijkheid van organisaties zelf. Het betreft een grote verantwoordelijkheid van organisaties om ethisch met AI om te gaan. En daarvan afgeleid de belangrijke verantwoordelijkheid van interne auditors op dit vlak.”

Moeten en kunnen we nog terug naar een samenleving zonder AI?

“Nee! Alle publieke aandacht dat het minder of minder snel zou moeten, lijkt alsof we twintig jaar geleden de oorlog verklaarden aan mobiele telefoons. Die zijn nu ook niet meer weg te denken. Dit zijn nu eenmaal de ontwikkelingen die spelen, dus we kunnen niet meer terug naar een wereld zonder AI. Het brengt te veel voordelen en te veel kansen met zich mee om niet te benutten, deze wil je omarmen. Het is echter van belang dit op een ethische manier te doen. Want als je dat niet doet ga je onderuit.”

Gaat AI de mens vervangen?

“Er zijn menselijke eigenschappen die ‘nooit’ gevangen kunnen worden door AI. Er wordt veelal gezegd dat liefde en empathie de mens uniek maakt en onderscheidt van AI. Er zijn echter ook al mensen die van een robot houden en er verliefd op zijn. Liefde en empathie worden steeds meer door AI en robots gevangen, maar AI blijft tegelijkertijd gekunsteld. Ook al kun je door middel van AI nog zo’n menselijke avatar creëren die echt lijkt, er mist altijd iets, namelijk het menselijke, het wezenlijke. Het ‘wezen’ is wat mensen mensen maakt.”

“AI brengt veel voordelen, maar met die voordelen ook veel risico’s. Als je die niet beheerst vlieg je – vroeg of laat – uit de bocht”

Is AI een vloek of een zegen?

“AI is een tweesnijdend zwaard, in die zin dus zowel een vloek als een zegen. Als je AI helemaal niet gebruikt voor je dienstverlening of business ga je ten onder. Het niet benutten van AI is dan een vloek, eveneens als AI wel wordt benut maar op een onethische wijze. Dit geldt zowel voor organisaties als voor interne auditors. Je mist de boot als je niet met AI meegaat. AI brengt veel voordelen, maar met die voordelen ook veel risico’s. Als je die niet beheerst vlieg je – vroeg of laat – uit de bocht. Pas je AI op een ethisch verantwoorde wijze toe, dan is het een zegen.”