Hoe bewaak en waarborg je data- en AI-gebruik?

De inzet van data, algoritmes en artificial intelligence kan niet alleen positieve, maar ook negatieve gevolgen hebben. Hoe kunnen commissarissen ai waarborgen en bewaken dat de organisatie er op een gecontroleerde en verantwoorde manier mee omgaat? Muriël Serrurier Schepper, zelfstandig data- en AI-expert en aankomend commissaris, ontwikkelde een praktisch framework voor het stellen van de juiste vragen en het vergaren van de benodigde kennis.

AI waarborgen

Met de komst van ChatGPT in december 2022 zijn de gesprekken binnen en buiten organisaties rondom het thema artificial intelligence in een stroomversnelling gekomen. De AI-tool werd binnen twee maanden al door 100 miljoen mensen gebruikt. Daarmee groeide het sneller dan TikTok en Instagram. Opeens zijn de mogelijkheden en onmogelijkheden van deze chatbot en het daarachterliggende taalmodel (Generative Pre-trained Transformer-versie 4) van OpenAI onderwerp van gesprek en discussies.

Dat leidt bijvoorbeeld tot de volgende vragen:

• Hoe moet het onderwijs omgaan met deze technologie?
  Doordat ChatGPT heel goed verslagen kan schrijven brengt het onderwijsinstellingen en docenten wereldwijd in een lastig parket. Door de komst van ChatGPT gaan in Australië universiteiten hun studenten weer verplichten om examens en verslagen met pen en papier te schrijven. (Klik hier voor meer informatie.)
• Hebben we nog wel copywriters, journalisten en marketeers nodig in de toekomst?
  ‘It took ChatGPT 30 seconds to create, for free, an article that would take me hours to write’, aldus Henry Williams, freelance tekstschrijver. (Zie dit artikel in The Guardian.)

Wezenlijke vragen over ChatGPT

Bovenstaande vragen poppen nu op doordat ChatGPT een hype is. Vragen die je veel minder hoort zijn bijvoorbeeld:

• Hoe betrouwbaar zijn de antwoorden van ChatGPT eigenlijk?
• Op welke data is het model getraind?
• Waarom is de keuze voor die specifieke data gemaakt en door wie?
• Hoe werkt ChatGPT eigenlijk?
• Is te achterhalen hoe het model tot een bepaald antwoord komt?

Dit zijn de vragen die gaan over de onderliggende data, algoritmes en het toepassen van artificial intelligence.

Praktische handvatten

Hoe kunnen commissarissen het gebruik van data, algoritmes en artificial intelligence in de organisatie bewaken en waarborgen? Een aantal praktische handvatten:

Data

Veel organisaties zijn al een aantal jaar bezig om meer datagedreven te gaan werken. In plaats van het baseren van keuzes op met name kennis en ervaring, worden deze steeds meer gebaseerd op feiten die voortkomen uit data.

ChatGPT noemt dat: Datagedreven werken betekent het nemen van beslissingen en uitvoeren van acties op basis van gegevens en feiten in plaats van op basis van intuïtie of persoonlijke ervaring alleen. Het gaat om het gebruik van data om inzicht te krijgen in de werkelijkheid en het nemen van beslissingen op basis van deze inzichten.

De gemeente Hengelo spreekt liever over ‘datagedreven sturing’: sturend handelen door het systematisch verzamelen, beheren, analyseren en interpreteren van data.

Als de organisatie haar keuzes meer op data gaat baseren, hoe kan een commissaris dan het gebruik van data bewaken en borgen?

Algoritmes

Een algoritme is een ‘systematisch stelsel om rekenkundige bewerkingen uit te voeren, en de volgorde daarvan’, wat in de context van computerprogramma’s wordt uitgelegd als een eindigende reeks instructies om van een gegeven begintoestand naar een beoogd doel te komen (Bron: Artificial Intelligence In Actie, M.F. Serrurier Schepper)

Alledaagse voorbeelden van algoritmes zijn:

• Recept voor een appeltaart: door het volgen van de stappen in het recept kom je van de gegeven begintoestand - losse appels, suiker, meel, et cetera - naar de boogde appeltaart.

• Ikea-handleiding: door het volgen van de plaatjes kom je (als het goed is) van een set losse planken naar het beoogde doel van een kast.

ChatGPT schrijft: Een algoritme is een reeks stappen of instructies die een computer of ander systeem volgt om een bepaalde taak uit te voeren. Het kan worden beschouwd als een soort recept dat specifieke input omzet in output. Algoritmen kunnen bijvoorbeeld worden gebruikt om berekeningen uit te voeren, gegevens te sorteren of zoekopdrachten uit te voeren.

Discriminerende of negatieve uitkomsten

Met de toename van datagedreven werken neemt ook het gebruik van algoritmes steeds verder toe. Hiermee wordt ook het risico groter dat algoritmes onbedoeld tot discriminerende of negatieve uitkomsten voor bepaalde groepen leiden.

Bij iedereen staat het gebruik van algoritmes voor etnisch profileren bij de toeslagenaffaire nog op het netvlies, maar ook op geslacht wordt met regelmaat gediscrimineerd. Zo heeft bij een Amerikaans koppel zowel de man als de vrouw een Apple Card, de creditcard van Apple: zij krijgt echter een veel lager krediet aangeboden dan hij.

Algoritmeregister

Gelukkig worden mensen in organisaties zich steeds bewuster van het onbedoelde negatieve effect van het gebruik van algoritmes. En vooral bij overheidsinstanties is die bewustwording groot. Zo heeft de gemeente Amsterdam heeft een nieuwe missie: geen enkel algoritme dat in de stad wordt gebruikt mag discrimineren, vals spelen of andere ongewenste beslissingen nemen. Bron: FD, 1 maart 2019. Verder heeft de overheid in 2022 een algoritmeregister gecreëerd. Op deze website publiceren overheidsorganisaties de algoritmes die zij gebruiken in hun werk.

Als de organisatie meer gebruik gaat maken van algoritmes, hoe kan een commissaris dan het gebruik daarvan bewaken en borgen?

Artificial Intelligence

De term Artificial Intelligence (AI) wordt continu gebruikt, er is echter geen eenduidige definitie. In 1956 werd de term voor het eerst gebruikt door John McCarthy.

Zelf omschrijf ik het vaak als volgt: AI is als een gereedschapskist waarin allerlei verschillende gereedschappen zitten die in meer of mindere mate een vorm van menselijk intelligentie nabootsen. Waar je bij een gereedschapskist een timmerman nodig hebt om de zaag, hamer of boor in beweging te krijgen, maken AI-tools gebruik van algoritmes (meestal zelf lerende algoritmes = Machine learning). De gereedschappen zou je kunnen classificeren in AI-oplossingen die bijvoorbeeld spraak, tekst, afbeeldingen, geluid etc kunnen herkennen en generen.

AI volgens ChatGPT

ChatGPT zegt: Artificial intelligence (AI) gaat veel verder dan alleen het uitvoeren van specifieke taken volgens een vastgesteld algoritme. AI omvat het vermogen van computers om te leren, redeneren en beslissingen te nemen op basis van gegevens, patronen en context. AI-systemen kunnen bijvoorbeeld afbeeldingen en spraak herkennen, natuurlijke taal verwerken, aanbevelingen doen en autonoom beslissingen nemen.

AI-systemen maken gebruik van machine learning-algoritmen om te leren van gegevens en patronen in de omgeving. Deze algoritmen worden gebruikt om het systeem te trainen, waarbij het systeem zelf patronen en regels kan ontdekken zonder expliciete instructies van een programmeur. Hierdoor kan AI in sommige gevallen flexibeler en adaptiever zijn dan systemen die alleen werken met vaste algoritmen.

Kortom, terwijl algoritmen specifieke taken uitvoeren volgens een vastgesteld stappenplan, gaat AI veel verder dan dat en omvat het de mogelijkheid om te leren, redeneren en beslissingen te nemen op basis van gegevens en patronen in de omgeving.

Beperken negatieve gevolgen

Doordat het gebruik van AI zo’n vlucht neemt binnen de gehele maatschappij en in organisaties, zie je naast positieve ook steeds meer negatieve gevolgen. Om dit te beperken werkt de EU momenteel aan een AI-act. Hierbij worden op basis van het risico dat de burger loopt bij het gebruik van de AI-toepassing verschillende type maatregelen verwacht.

Daarnaast zijn er ook allerlei vragenlijsten beschikbaar om organisaties te helpen op een verantwoorde manier met AI om te gaan. Voorbeelden hiervan zijn de Artificial Intelligence Impact Assessment, de Ethische Data Assistent en the ethics guidelines for trustworthy AI.

Als de organisatie meer gebruik gaat maken van artificial intelligence, hoe kan een commissaris dan het gebruik daarvan bewaken en borgen?

Meer kennis commissarissen nodig

Data, algoritmes en artificial intelligence hebben een enorme vlucht genomen. Het is voor commissarissen van belang om hier kennis en begrip van te hebben, zodat er op een gecontroleerde en verantwoorde manier mee om wordt gegaan. Want op een negatieve manier hiermee de landelijke pers halen, kan de organisatie serieuze schade brengen. En dat is in strijd met het streven van de commissaris om altijd het organisatiebelang voorop te stellen. Meer kennis opdoen over deze onderwerpen is dan ook een must voor de commissaris.

Muriël Serrurier Schepper is zelfstandig ondernemer, een expert in data en artificial intelligence, met een achtergrond in arbeids- en organisatiepsychologie. Ze heeft dataprojecten en -programma’s geleid bij onder meer Shell, Heineken, Gemeente Hengelo en Stolt Tankers. Ze is auteur van het boek Artificial Intelligence In Actie, leidt het AI Annotatie Lab en geeft trainingen aan organisaties.

Muriël Serrurier Schepper schreef dit artikel als eindopdracht voor de Leergang Board Potentials van NR - de governance expert.

Klik hier voor contact met Muriël Serrurier Schepper.