Kunstmatige intelligentie en auditing

Hoewel er een aantal recente spraakmakende ontwikkelingen zijn op het gebied van kunstmatige intelligentie (AI), is dit thema niet bepaald nieuw. Deze term en het prille begin van dit fenomeen kennen we al sinds de jaren vijftig van de vorige eeuw. Hoe heeft AI zich ontwikkeld door de jaren heen? En wat betekent dit voor het vak van internal auditors?

De mogelijke impact van AI op auditing en auditprofessionals is door de komst van ChatGPT actueel en zichtbaar geworden. Hier is een lange periode van ontwikkeling van AI aan voorafgegaan. AI gaat de aard van de werkzaamheden van internal auditing hoogstwaarschijnlijk veranderen. AI gaat veel routinematige werkzaamheden overnemen, er zal meer dan ooit gebruikgemaakt worden van digitale technologie in de uitoefening van de professie, en recente wetgeving zorgt voor nieuwe toepassingsgebieden van auditing in de toekomst. Deze ontwikkelingen hebben gevolgen voor de aard van de auditwerkzaamheden en voor de werkgelegenheid.

In dit artikel wordt eerst de ontwikkeling en huidige stand van AI besproken, daarna worden de relevante toepassingsgebieden van AI, machine learning en deep learning, besproken. Vervolgens worden de gevolgen van machine learning en deep learning voor de toekomst van auditing behandeld, en ten slotte wordt de vraag gesteld hoever auditors zijn met de toepassing van machine learning en deep learning in de organisatie.

De ontwikkeling van AI

De meest invloedrijke persoon in de ontwikkeling van AI is Alan Turing, een Britse wiskundige en informaticus. In 1950 publiceerde Turing zijn beroemde paper ‘Computing Machinery and Intelligence’ (Mind 49, 1950), waarin hij de vraag stelde: kunnen machines denken? In 1956 werd de term kunstmatige intelligentie voor het eerst gebruikt tijdens de Dartmouth-conferentie, georganiseerd door John McCarthy en Marvin Minsky.

Door de beperkingen van de computertechnologie destijds en de hoge kosten van onderzoek vertraagde de ontwikkeling van AI, ook wel bekend als de AI-winter

Tijdens deze periode werden de eerste AI-programma’s ontwikkeld, zoals het schaakprogramma van Arthur Samuel en het General Problem Solver van Allen Newell en Herbert A. Simon. In de jaren zeventig en tachtig van de vorige eeuw lag de focus van AI-onderzoek op het ontwikkelen van expertsystemen (zoals MYCIN en DENDRAL); computersystemen die menselijke expertise in een bepaald domein simuleren, zoals in de geneeskunde en de chemie. Door de beperkingen van de computertechnologie destijds (zoals de rekencapaciteit) en de hoge kosten van onderzoek vertraagde de ontwikkeling van AI, ook wel bekend als de AI-winter, waarin de interesse en financiering voor AI-onderzoek sterk afnam. De heropleving van AI begon in de jaren negentig met de opkomst van nieuwe technieken en algoritmen, zoals neurale netwerken en genetische algoritmen.

Beste schaker

Het eerste zichtbare resultaat van de ontwikkeling van AI was in mei 1997, toen ’s werelds beste schaker Gary Kasparov in New York City werd verslagen door Deep Blue, een door IBM ontwikkelde schaakcomputer. Kasparov won de eerste wedstrijd in Philadelphia in 1996 met 4-2. Deep Blue won de rematch in New York City in 1997 met 3½-2½. Van deze rematch is een documentaire gemaakt (‘Game Over: Kasparov and the Machine’, 2003). Deep Blue was gebaseerd op ‘rule-based AI’, het was in staat om de schaakregels sneller toe te passen en minder fouten te maken op basis van alle voorgaande schaakmatches.

Negentien jaar later, in maart 2016, vond in Seoul, Zuid-Korea, de ‘DeepMind Challenge Match’ plaats. Dit was een five-game Go-match tussen Go-topspeler Lee Sedol en AlphaGo, een door DeepMind Technologies (opgericht in Londen in 2010, door Google gekocht in 2014 en omgedoopt tot Alphabet en nu actief onder de naam Google DeepMind) ontwikkeld computer Go-programma. AlphaGo won vier van de vijf wedstrijden. Go is een complex bordspel waarvoor intuïtie, creativiteit en strategisch denken nodig is, en wordt algemeen als moeilijker geacht dan schaken. AlphaGo maakt gebruik van waarschijnlijkheidsberekeningen en neurale netwerken en berekent enorme hoeveelheden waarschijnlijkheden van vele mogelijke toekomstige zetten.

De complexiteit die rule-based AI aankan overtreft inmiddels verreweg de menselijke mogelijkheden. De menselijke intelligentie echter omvat veel meer dan regels toepassen: het kan patronen herkennen in complexe systemen. Deze ‘pattern-based AI’ is ontwikkeld in het Santa Fé Institute of Complex Adaptive Systems in New Mexico in de Verenigde Staten (zie bijvoorbeeld M. Mitchell Waldrop, Complexity: The emerging science at the edge of order and chaos, 1992). De allereerste workshop van het Sante Fé Institute werd gehouden op 4 en 5 oktober 1984. Hierna ontwikkelde dit instituut zich snel tot een leidende onderzoeksorganisatie in complexe systemen met prominente leden als John H. Holland, William Brian Arthur en de winnaar van de Nobelprijs in de Natuurkunde in 1969 Murray Gell-Mann.

Turingtest

Onderzoek van het Fanta Fé Institute leidde tot publicaties over ‘zwermintelligentie’ van mieren en vogels, en AI die de intelligentie van chimpansees benadert. Deze publicaties hebben weinig aandacht gehad. Die aandacht kreeg Ray Kurzweil, chief technology officer van Google, op 9 april 2002 wel met zijn voorspelling dat AI in 2029 de Turingtest gaat afleggen.

De Turingtest, in 1950 ontwikkeld door Alan Turing (‘Computing machinery and intelligence’, Mind 59, 1950), bepaalt of kunstmatige intelligentie (bijvoorbeeld een computer of een online instant messaging chat) menselijke intelligentie heeft. Dit wordt bepaald door een groep menselijke beoordelaars die in gesprek gaan met de ter zake relevante kunstmatige intelligentie. Als deze beoordelaars niet in staat zijn om de gesprekspartner te ontmaskeren als niet-mens doorstaat het de Turingtest. In een dergelijk geval heeft AI ‘human level intelligence’ – menselijke intelligentie – dus. Dit omvat veel meer dan regels toepassen en complexe vraagstukken oplossen. Het gaat ook om empathie, emotionele intelligentie, creativiteit, humor begrijpen en bedenken, en andere menselijke uitingen.

De echte doorbraak van AI was in 2022 met de introductie van ChatGTP. Deze verdere doorontwikkeling van AI maakte ineens duidelijk wat de mogelijkheden van AI zijn

De voorspelling van Ray Kurzweil heeft tot veel discussies geleid, zowel in de wetenschappelijke literatuur als in diverse techbladen. Zo deelde Noor Gillani (‘Five experts explain whether AI could ever become as intelligent as humans’, Science Alert, 2023) de resultaten van een survey op het forecasting platform Metaculous, waarin de leden human level intelligence rond 2032 verwachten, terwijl in een andere survey het jaar 2059 wordt genoemd. De echte doorbraak van AI voor het grote publiek was in november 2022 met de introductie van ChatGPT. Deze verdere doorontwikkeling van AI maakte ineens voor een groot publiek duidelijk wat de mogelijkheden van AI zijn, en dat Ray Kurzweil weleens gelijk kan hebben dat human level intelligence in 2029 gerealiseerd kan zijn. Het heeft ook tot een algemene bewustwording geleid dat AI gaat concurreren met professionals, met beroepen waarin menselijke intelligentie een belangrijk onderdeel is.

Big data plus AI: machine learning en deep learning

AI gecombineerd met heel veel gegevens (big data) wordt machine learning genoemd. Met behulp van algoritmen worden (gestructureerde) datasets geanalyseerd, daarvan wordt geleerd en vervolgens worden beslissingen genomen. Deep learning gaat nog een stap verder, het maakt gebruik van kunstmatig gegenereerde neurale netwerken om patronen te herkennen in ongestructureerde datasets en kan zelf verbeteringen in de algoritmen aanbrengen. De structuur van een neuraal netwerk is vergelijkbaar met het neurale netwerk in het menselijk brein. Waar machine learning met eenvoudige hardware al binnen enkele minuten of uren tot een beslissing komt, kan dit bij deep learning (op dit moment) met heel krachtige computers, GPU’s (Graphics Processing Unit) weken of maanden duren.

Misschien wel het bekendste voorbeeld van een toepassing van machine learning is IBM’s dr. Watson, vernoemd naar de visionaire oprichter van IBM, Thomas J. Watson. De keuze van IBM voor de gezondheidssector is niet toevallig. De medische kennis verdubbelt mondiaal elke vijf jaar. Artsen kunnen deze ontwikkelingen nauwelijks bijhouden, aangenomen dat ze gemiddeld vijf uur per maand aan het bijhouden van hun vakliteratuur besteden. Ze komen daarmee tijd tekort om alle ontwikkelingen bij te houden, en dat kan te weinig zijn om de juiste diagnoses te kunnen stellen en om de beste behandeling voor te schrijven. Dr. Watson zou dan een logische partner zijn voor artsen. Toepassingen van machine learning en deep learning worden ook voor andere professionele domeinen ontwikkeld. Een voorbeeld is ROSS, die zich ontwikkelt tot digitale jurist, digitale advocaat en digitale rechter.

Machine learning en deep learning

Veel nieuwe businessmodellen zijn gebaseerd op ‘data-centricity’, waarbij dataverhandeling de kern vormt. Voorbeelden zijn industry platforms als Uber, Airbnb en Booking.com, en social platforms als Facebook en LinkedIn. Voor auditors betekent dit dat het object van auditing verandert en ook de interne auditfunctie verandert (M. de Boer, ‘Auditing met Artificial Intelligence’, IIA Congres, 2019). Naast de audit van het heden wordt ook vooruitkijken een taak, en de focus verschuift naar de inhoudelijke analyse van de resultaten.

Met machine learning kunnen veel auditfuncties sneller en beter worden uitgevoerd, zeker als er gebruik wordt gemaakt van bepaalde software zoals beeldherkenning (algoritmen trainen om in een handgeschreven notitie bruikbare woorden te herkennen) en taalverwerking (een algoritme loslaten op grote hoeveelheden menselijke taalgegevens zoals in jaarverslagen, e-mails, rapporten en contracten, en deze verwerken en analyseren). Hierbij wordt een hogere mate van precisie bereikt dan de menselijke beoordelaar kan leveren. Bovendien is het aannemelijk dat de scherpte van de audits omhooggaat, met een mindere mate van ‘false-positives’. Deep learning kan bovendien ongestructureerde gegevens analyseren, zoals e-mails, berichten op social media en audiobestanden van telefonische vergaderingen (J. Boillet, ‘Hoe kunstmatige intelligentie audits kan transformeren’, EY Reporting, 2019).

Een belangrijk gevolg van deze ontwikkelingen is dat auditors met het gebruik van AI niet alleen beter en slimmer kunnen werken en efficiënter hun tijd kunnen besteden, maar ook dat ze hun menselijke kijk kunnen inzetten om een bredere en diepgaandere set gegevens en documenten te analyseren. Daarnaast stelt AI auditors in staat om betere vragen te stellen en meer te communiceren met CFO’s, auditcommissies en bedrijfsraden, waardoor zowel het auditproces als de audits zelf kunnen verbeteren. Hierbij komt dat rekenkracht steeds betaalbaarder wordt, waardoor de kracht van dataverwerking kan worden benut om patronen te achterhalen.

Artificial Intelligence Act

Een groot deel van het auditwerk wordt sneller, efficiënter en accurater, en het vak auditing zal worden geüpgraded. De verwachting echter is ook dat steeds meer routinematige werkzaamheden en voorbereidingen door computers worden overgenomen, met op de langere termijn wellicht een netto baanverlies. Daartegenover staat het uitzicht op nieuwe werkgelegenheid wanneer auditors een rol gaan krijgen in het toetsen van algoritmen van datacentrische organisaties. Het vereist wel bepaalde technische vaardigheden om deze functie te kunnen vervullen. Hierbij kan de recent (in 2023) door het Europees Parlement goedgekeurde Artificial Intelligence Act een aanjager worden (J. Boillet, ‘Hoe kunstmatige intelligentie audits kan transformeren’, EY Reporting, 2019).

De EU is de eerste die regels maakt over AI. Bedoeld om AI-technologie te reguleren en te zorgen voor veiligere en transparantere toepassingen, en ook om innovatie te stimuleren

De EU is wereldwijd de eerste die regels maakt over AI. De act is bedoeld om AI-technologie te reguleren en te zorgen voor veiligere en transparantere toepassingen van kunstmatige intelligentie in Europa, maar ook om innovatie te stimuleren. Een belangrijk argument van de EU is om meer openheid te krijgen over de complexe algoritmen die achter AI schuilgaan. Onderhandelingen met de lidstaten over de wet zijn gestart, na een volledig akkoord duurt het daarna nog twee jaar voor de regels effectief van kracht zullen zijn.

Machine en deep learning binnen de organisatie?

Uit een recente survey (februari 2024) van Protiviti blijkt dat ‘het merendeel van de 550 ondervraagde interne auditors de AI-technologieën – waaronder ook generatieve AI, chatbots, machine learning en deep learning – beschouwt als een van de belangrijkste risico’s voor het vakgebied in de komende twee tot drie jaar’ (‘Global technology audit risks survey’, Protiviti, 2024; ‘AI een groeiend risico voor internal auditors’, Consultancy.nl, 2024).

Ook blijkt dat op dit moment slechts 12% van de organisaties kunstmatige intelligentie en machine learning geïntegreerd toepast binnen de auditfuncties, en dat dit percentage de komende jaren snel en flink zal stijgen. De onderzoekers adviseren interne auditors om na te denken over hoe de output en ontwikkeling van algoritmen worden beheerst, en hoe de governance rondom AI-gedreven besluitvorming is georganiseerd. Ook wijzen de onderzoekers op de noodzaak van het treffen van de juiste voorbereidingen, en dan vooral als het gaat om de behoefte aan het nodige talent: ‘bedrijven met onvoldoende talent met kennis van AI en machine learning stellen zich bloot aan aanzienlijke risico’s’.