Artificial intelligence for good

Wat is artificial intelligence? Waar kun je het voor gebruiken en welke rol speelt de AVG bij het gebruik van data voor artificial-intelligencetoepassingen. Aan het woord is Jim Stolze, spreker op het IIA Congres in september 2021.

Hoe komt een student toegepaste taalwetenschappen terecht in de wereld van artificial intelligence?

“Artificial intelligence (AI) is er voor mij altijd al geweest. Het begon toen ik in mijn jeugd van mijn vader in 1985 mijn eerste computer kreeg, een Commodore 64. Mijn vader werkte met zijn handen, hij was kassenbouwer en een man die vooruitkeek. Hij zei: “Jimmy, het werk dat ik doe is waarschijnlijk niets voor jou en ik heb hier iets wat je moet zien als een broertje of zusje dat nog helemaal niets kan. Je kunt dit apparaat bepaalde dingen laten doen en dat heet programmeren.” Daar ben ik mij toen in gaan verdiepen en ik ben gaan programmeren. Achteraf gezien sprak mijn vader profetische woorden, want nu heb ik een bedrijf waar we met AI bezig zijn en is de cirkel rond.”

En tijdens uw studie?

“Ik vind taal leuk en was als programmeur benieuwd of ik computers taal kon leren. Met die ambitie ben ik de studie taalwetenschappen begonnen. Dat is briljant mislukt. Ik heb een heleboel dingen gebouwd die niet bleken te werken, daar heb ik van geleerd. Veel van mijn studiegenoten waren bezig met taalverwerving, logopedie, et cetera. Ik zat bij informatici om te kijken of we software konden schrijven. We probeerden heel simpel te denken: een woordenboek is een database en grammatica zijn regels en die kun je programmeren.”

En toen? Vertaald naar de praktijk?

“We bouwden modellen die het niet onaardig deden. We merkten dat je door regels te schrijven een chatbot bouwt die niet uit de voeten kan met vragen die niet in het script staan. Dat was een teleurstelling voor mij. We dachten dat we met de computer logica konden oplossen. Vanaf 2010 zijn we erachter dat een andere tak van sport veel interessanter is geworden en dat is niet kennisgedreven AI maar datagedreven AI. Machine learning dus, en die kan wel uit de voeten met regels en uitzonderingen.”

“Computers lijken slim, maar zijn eigenlijk dom. Een schaakcomputer is heel goed in schaken, maar wil je daarmee kaarten dan kan dat niet. Daar snapt-ie niets van”

Er zijn twee verschillende soorten AI?

“Je kunt zeggen dat het twee stromingen zijn: kennisgedreven AI en datagedreven AI. De hoogleraren op het gebied van AI behoren vaak tot een van de twee stromingen. In de praktijk blijkt echter dat deze twee ‘bloedgroepen’ niet zonder elkaar kunnen. Uiteindelijk is het beste systeem een combinatie van menselijke en datagedreven regels. De datagedreven aanpak is jarenlang in de vorige eeuw terzijde geschoven en uitgelachen. ‘Dat wordt nooit iets’, werd gezegd. Dat komt omdat er in de vorige eeuw nog niet veel data was. Nu is er heel veel data met als gevolg dat de datagedreven AI het veel beter doet.”

Hebt u een voorbeeld van datagedreven AI?

“De datagedreven AI-systemen kunnen bijvoorbeeld bepaalde hondenrassen uit elkaar houden. Terwijl mensen soms de verschillen niet kunnen herkennen. Maar de systemen maken ook hele domme fouten. Dan is het voor ons als mens bijvoorbeeld heel duidelijk dat op een foto een cavia staat, maar classificeert het systeem de foto volledig verkeerd.”

“Organisaties waren de laatste vijftien jaar druk bezig met digitale transformatie. Maar als alles gedigitaliseerd is: wat dan? Dan heb je veel data en dat was niet de bedoeling”

Wat is volgens u AI?

“Ik heb daar lang over nagedacht en ook een boek over geschreven. Mijn kortste definitie is: een verzameling technieken om een machine slim te laten lijken. Het gaat dus om meerdere technieken zoals taal- en beeldherkenning. “Computers lijken slim, maar zijn eigenlijk dom. Een machine lijkt slim omdat zij één ding heel erg goed kan. Dat wordt ‘narrow intelligence’ genoemd. Een schaakcomputer is heel goed in schaken, maar wil je daarmee kaarten dan kan dat niet. Daar snapt-ie niets van.”

“Het woord ‘intelligentie’ in AI zet veel mensen op het verkeerde been. Het is een gereedschap om mensen betere beslissingen te laten nemen. Eigenlijk moet je het ‘augmented’ intelligence noemen. Het is extra brain power om dingen te doen waar je als mens niet goed in bent.”

Is uw definitie een breed gedragen definitie?

“Ik heb de nationale AI-cursus gelanceerd omdat ik vaak een gesprek had over wat AI is. Het zou fijn zijn wanneer iedereen daar basiskennis over heeft. In dat kader heb ik met diverse mensen gesproken waaronder professoren uit het vakgebied. Zij vonden mijn definitie wel een goede, waren het er wel mee eens. Een professor van de Radboud Universiteit gaf ook aan dat het opschuift in de tijd. In de jaren tachtig vonden we schaken heel intelligent en nu vinden we dat wel meevallen.”

Wat zijn toepassingsmogelijkheden van AI?

“Vervelende, repetitieve taken kun je door AI (sneller) laten doen. Eigenlijk is het iets waar we allemaal op zitten te wachten. Als je kijkt naar organisaties dan waren die de laatste vijftien jaar druk bezig met digitale transformatie. We dachten dat het ging over digitaliseren, maar als alles gedigitaliseerd is: wat dan? Dan heb je veel data en dat was niet de bedoeling.”

Wat was dan wel de bedoeling?

“De bedoeling was waarde creëren en dingen gedaan krijgen. Daar heb je gereedschap voor nodig en dat is dus, met name, machine learning. Dat is een vorm van statistiek waarbij op zoek wordt gegaan naar patronen in de data, groepjes worden gemaakt en worden geclusterd. Voor auditors kan clusteren heel interessant zijn, omdat je dan vaak een bakje hebt met dingen die niet in een ander bakje passen, de restcategorie. Deze categorie is vaak het interessantst.”

Welke processen zijn interessant voor AI?

“Alle processen kunnen baat hebben bij de aanpak van AI. Een voorbeeld. De inkoopafdeling van Heineken had een probleem waar ze zelf niet uitkwamen. Er werden werkzaamheden met Excel uitgevoerd, met veel kolomkoppen. Ze hadden een macro gemaakt en systemen op elkaar aangesloten, maar het lukte niet om de goede verbanden te zien. Ons model heeft die verbanden zichtbaar gemaakt. Dat leverde een enorme besparing op voor de afdeling. Juist aan de achterkant van een organisatie, bij hr, inkoop, logistiek zijn grote stappen te maken met AI.”

Is data de zuurstof van AI?

“Meestal zeggen ze de brandstof. Het is een raket en AI zit in de motor, de brandstof is de data. Zonder data stijgt de raket niet op.”

“De AVG is een zegen. Het staat opeens op de agenda van de board. Met de AVG is er een vangrail aangebracht. Je mag innoveren, maar je mag niet alles”

Is de AVG dan zand in de motor?

“De AVG is een zegen voor de industrie en AI. Het staat opeens op de agenda van de board. De mentaliteit was toch wel ‘we hebben data dus dat gaan we gebruiken’. Dat is logisch als je KPI’s hebt waarvoor je data nodig hebt om je doelen te verwezenlijken. Met de AVG is er een vangrail aangebracht. Je mag innoveren, maar je mag niet alles. De AVG gaat om dataprotectie en hoe lang mag data opgeslagen worden.”

Hoe helpt u dat?

“Ik heb nu betere gesprekken met mijn opdrachtgevers over het feit dat het niet alleen om privacy gaat, maar dat het gebruik van data ook uit te leggen moet zijn. Want mensen hebben sinds de AVG het recht op inzage als zij het gevoel hebben gediscrimineerd te worden door een algoritme. Bedrijven moeten dat kunnen uitleggen. Kunnen ze dat niet dan kan je als consument dat via de rechter eisen.”

Welke vangrails zijn er nog meer?

“We gaan ervan uit dat als een bedrijf data gebruikt er wel consensus moet zijn van de consument om persoonsgegevens te gebruiken. Daarnaast is er wetgeving, een hele duidelijke vangrail. Maar er is ook ondernemersvrijheid. Een organisatie mag best data gebruiken om onderscheid te maken. Dan bedoel ik onderscheid maken op de wiskundige manier. Op bepaalde vlakken mag dat. Bijvoorbeeld meer premie betalen voor een rode auto dan voor een zwarte. Dat is ondernemersvrijheid. Je mag alleen geen onderscheid maken op sensitieve data zoals etniciteit, geloof, sekse, leeftijd, et cetera. Bij opdrachten die we doen voor de overheid worden we hier op geaudit.”

Kunt u iets vertellen over de opdrachten die u uitvoert?

“We hebben voor het ministerie van VWS een systeem opgeleverd. Het is augmented intelligence om ambtenaren beter te informeren. De chief privacy officer van Infrastructuur en Waterstaat (I&W) was de levende vangrail, hij zat bij elke meeting en ik had hem regelmatig aan de telefoon. Hij bleef erop hameren dat we niet op leeftijd, sekse en etniciteit mochten discrimineren. Toen we ons model hadden opgeleverd kwam de vraag of we niet discrimineerden op leeftijd. Zijn bijvoorbeeld oudere mensen niet oververtegenwoordigd?”

Wat was uw antwoord?

Mijn antwoord was: “Dat weet ik niet, want wij mochten geen geboortejaar gebruiken in ons model”. Er kan wel een zogenaamde proxy in de data zitten. Dat betekent dat door andere zaken in de data mensen uit een bepaald geboortejaar toch oververtegenwoordigd zijn. We hebben vervolgens toestemming gekregen om wel het geboortejaar te verwerken en dat model naast het andere model te leggen om te kijken of bepaalde groepen wel of niet oververtegenwoordigd waren.”

“Het is fijn dat we in een rechtstaat leven en dat de wet ons voor een groot deel beschermt, maar veel dingen staan ook niet in de wet. Dan ben je overgeleverd aan de goedheid van bedrijven”

Wat is proxy precies?

“Een bekend voorbeeld is dat mensen die ijs eten een grotere kans hebben om te verdrinken. Maar het is niet zo dat als je ijs eet je eerder verdrinkt. Het is zomer, dat is de proxy. Mensen eten in de zomer eerder ijs en zwemmen dan ook eerder. Er is dus wel een correlatie maar geen causaal verband. Het kan dus zo zijn dat in ons model voor I&W een bepaalde bevolkingsgroep oververtegenwoordigd is al hebben we daar niet op geselecteerd. Dat heeft dan andere redenen.”

Dan kom je op het gebied van ethiek?

“Ja, precies. Het is fijn dat we in een rechtstaat leven en dat de wet ons voor een groot deel beschermt, maar ook veel dingen staan niet in de wet. Dan ben je overgeleverd aan de goedheid van bedrijven. Je ziet steeds vaker dat er een ‘ethical board’, zeg maar een commissie ethiek, wordt ingericht. Dat is dan een orgaan dat voorstellen voorgelegd krijgt over wat medewerkers willen doen met data. De voorstellen zijn conform de wet, maar men wil graag een uitspraak van een dergelijke commissie of het ethisch verantwoord is.”

En fake news? Welke rol speelt AI daarbij?

“Als het probleem van fake news wordt gedefinieerd als desinformatie, dus actoren die bewust foutieve informatie de wereld in sturen, dan is dat lastig te bestrijden door journalisten. Zeker als het op grote schaal gebeurt met vormen van AI zoals bots en trollegers. Dan zijn we overgeleverd aan bijvoorbeeld Facebook die AI inzetten om fakeberichten op te sporen en te verwijderen. Dat is wel een druppel op een gloeiende plaat. Dus zowel de slechteriken als de goeierikken gebruiken AI. AI is een technologie en een gereedschap, we moeten niet bang zijn voor AI, maar voor ‘human stupidity’. Voor mensen die domme ideeën hebben en technologieën als AI gebruiken om deze te verwezenlijken.”

Wat is de toekomst van AI?

“AI wint sinds 1956 aan belangstelling, soms weer wat minder en dan weer wat meer. Het is een golfbeweging. Een toekomst zonder AI zie ik niet voor mij. Dingen worden lastig om te doen zonder AI. Het belangrijkste is dat we met elkaar in discussie blijven over wat wij wenselijk vinden. En dat we ‘AI for good’ gebruiken. Zo heet ook een wereldwijde stroming waarbij continu wordt gekeken hoe AI gebruikt kan worden voor goede dingen. Denk aan het verkleinen van de ongelijkheid, sustainabilitydoelstellingen halen of discriminatie tegengaan.”

U bent ooit veertig dagen afgesloten geweest van internet. Waarom?

“Dat was in 2007 en ik had wel een telefoon om mee te bellen. Na mij is het experiment nog een aantal malen herhaald, maar niemand heeft het veertig dagen volgehouden. Het was onderdeel van een groter geheel om te onderzoeken wat de invloed was van internet op het welzijn. Mijn onderzoek probeerde een verklaring te zoeken waarom mensen met een internetaansluiting gelukkiger waren dan mensen zonder. Uit surveys bleek dat het voor hen een ‘window to the world’ was. Dat miste ik toen ook. Het is alsof er een feestje is waar jij niet voor uitgenodigd bent. Het was best eenzaam.”

Wat hebt u daarvan geleerd?

“Het was een interessante beleving en ik heb veel over mij zelf en over mijn mediaconsumptie geleerd. Ik was in die tijd een grootverbruiker van media. In 2007 dachten we nog dat internet de wereld dichter bij elkaar zou brengen en niet zou polariseren. Wat ik geleerd heb is dat ik moet matigen, niet altijd online moet zijn en niet direct mijn mail moet beantwoorden. Dit is funest voor je productiviteit. Ik heb met mijzelf afgesproken dat als ik een boek schrijf, ik pas na vijfhonderd woorden op internet mag, mijn mail mag checken of koffie mag halen.”