De robotbestuurder en robotcommissaris

Artificial Intelligence in de boardroom:
Analyse

‘De robot zal niet binnen afzienbare tijd een reëel alternatief zijn voor de menselijke bestuurder of toezichthouder. Dat neemt niet weg dat de versterking van de ondersteunende rol van artificial intelligence (A.I.) in de boardroom verstrekkende gevolgen zal hebben. A.I. stelt nu al hogere eisen aan de huidige bestuurders en commissarissen’, aldus Hugo Reumkens van Van Doorne.

Technologische ontwikkelingen gaat doorgaans minder snel dan wordt voorspeld, maar terugkijkend valt toch steeds weer op dat zich in korte tijd significante veranderingen voordoen. A.I. zal daarbij in de toekomst een belangrijke stempel gaan drukken op de continuïteit en winstgevendheid van ondernemingen. Uit een onderzoek van het World Economic Forum, blijkt zelfs dat 45% van de ondervraagden verwacht dat in 2025 robots deel zullen uitmaken van het bestuur van een onderneming. Sommige schrijvers hebben inmiddels al betoogd dat robots de boardroom binnen afzienbare tijd zullen domineren.

Machine learning

De meest recente ontwikkelingen binnen A.I. zijn behaald met machine learning. Dat is een vorm van A.I. waarbij algoritmes worden ontwikkeld die zelfstandig kunnen leren aan de hand van grote hoeveelheden data. Inmiddels bevinden wij ons in een tijdperk waarin dergelijke algoritmes grootschalige worden geïmplementeerd en toegepast in bedrijfsprocessen. Dat leidt tot de vraag welke gevolgen deze ontwikkeling heeft voor het bestuur en toezicht op ondernemingen.

Niet één algoritme in bestuurskamer

Ik stel voorop dat een robot als bestuurder of toezichthouder menselijke intelligentie zal moeten kunnen evenaren of overstijgen wil het daadwerkelijk zelfstandig van betekenis worden in de boardroom. Natuurlijk is bekend dat de technologische ontwikkeling exponentieel wordt versneld omdat nieuwe technologische uitvindingen voortkomen uit oudere uitvindingen. Maar zolang de robotbestuurder slechts beperkte taken kan verrichten, blijft het praktisch nut van een robotbestuurder of robotcommissaris mijns inziens toch beperkt. Een robot met beperkte vaardigheden zal namelijk weinig toegevoegde waarde bieden als bestuurder of toezichthouder. Beslissingen die in de boardroom worden genomen kenmerken zich immers door een grote verscheidenheid aan belangen en onderwerpen. Die diversiteit en de daarmee samenhangende onvoorspelbaarheid zijn op dit moment niet te reduceren tot één specifiek algoritme.

Ethiek en barmhartigheid

Verder kent het vennootschapsrecht vele open normen, principles en best practice bepalingen. Het lijkt mij voor een robotbestuurder of robotcommissaris vooralsnog vrijwel ondoenlijk om op basis van algoritmes beslissingen te nemen waarbij met die open normen en algemene bepalingen rekening wordt gehouden, laat staan als het gaat om complexe ethische afwegingen. Niet voor niets vereist goed bestuur en toezicht dat sprake is van een juiste belangenafweging, waarbij deze belangen worden bepaald door alle relevante omstandigheden van het geval. Dat veronderstelt een open en creatieve interpretatie van de relevante normen en waarden, de belangen van alle betrokkenen, waarbij misschien zelfs rekening moet worden gehouden met de publieke opinie en de maatschappelijke verantwoordelijkheid van ondernemingen. Deze niet op ‘hard and fast rules’ gebaseerde besluitvorming veronderstelt kennis, ervaring en creativiteit die A.I. waarschijnlijk op korte termijn nog niet kan nabootsen. En een digitale vertaling in een algoritme van redelijkheid en billijkheid, duurzaamheid, kwetsbaarheid, barmhartigheid en compassie zie ik voorlopig ook nog als zeer problematisch.

Alledaagse besluiten

Dat neemt niet weg dat A.I. wel degelijk als ondersteunend hulpmiddel een toenemende rol zal gaan spelen bij het besluitvormingsproces in de boardroom. A.I. is bijvoorbeeld zeer geschikt om bestuurders en toezichthouders te ondersteunen bij het nemen van alledaagse besluiten. Die toegevoegde waarde betreft in het bijzonder onderwerpen waarvoor een grote hoeveelheden data beschikbaar zijn. Volgens sommige auteurs komt het nu reeds voor dat bij besluitvormingsprocessen, waarbij het formele besluit door een bestuurder of toezichthouder wordt genomen, geautomatiseerde procedures of analyses waarbij A.I. is toegepast een belangrijke rol spelen.

Data governance

Automatisering zal leiden tot grote efficiency en waarschijnlijk ook tot indrukwekkende kostenreductie. Naast deze voordelen zijn er echter ook gevolgen en risico’s waarmee de ondernemingsleiding rekening dient te houden. Allereerst gaat het om de risico’s van automatisering die in kaart moeten worden gebracht en moeten worden beheerst. Maar wellicht ook om de vraag hoe de efficiency en omvangrijke werkloosheid zich verhouden tot goed werkgeverschap. Sommigen gaan nog verder. Zo verstaat mr. Sander van de Ven in zijn recente artikel ‘De veranderende taak van bestuurders in het tijdperk van A.I.’ onder data governance ook de verplichting van het bestuur en het toezicht om ervoor te waken dat door menselijke supervisie de maatschappelijke verantwoordelijkheid en de daarmee verbonden belangenafweging hun weg vinden in de geautomatiseerde bedrijfsprocessen.

Controlesystemen

Data governance kan worden geplaatst in het bredere kader van bestaande risicobeheersing- en controlesystemen. Risicomanagement behoort immers tot de kerntaken van bestuur en toezicht. Het komt bijvoorbeeld terug in Boek 2 van het Burgerlijk Wetboek aan de orde in artikel 2:141 en artikel 2:251 BW, waarin wordt bepaald dat het bestuur ten minste één keer per jaar de raad van commissarissen schriftelijk op de hoogte moet stellen van de hoofdlijnen van onder meer het beheersen controlesysteem. Maar ook de Nederlandse Corporate Governance Code benadrukt het belang van risicomanagement.

Verstrekkende gevolgen

Voorlopig kan worden geconcludeerd dat de robot niet binnen afzienbare tijd een reëel alternatief zal zijn voor de menselijke bestuurder of toezichthouder. Dat neemt niet weg dat de versterking van de ondersteunende rol van A.I. in de boardroom verstrekkende gevolgen zal hebben. A.I. stelt in ieder geval reeds nu al hogere eisen aan de huidige bestuurders en commissarissen. Immers, het gebruik van algoritmes in de bestaande bedrijfsprocessen vereist andere en meer kennis en vaardigheden. Relevante technische en analytische expertise zullen daarom in belang toenemen. Het is daarbij van groot belang dat bestuurders en toezichthouders zich ervan bewust zijn dat de bestuurstaak- en verantwoordelijkheden als gevolg van A.I. ingrijpend zullen veranderen. Goede data governance vereist dat bestuurders en commissarissen zich grondig hierop voorbereiden, met name op het gebied van deugdelijk A.I.-risicobeheer en transparantie van het besluitvormingsproces.

==

Kijk hier voor direct contact met Hugo van Doorne.

Auteur(s)
Hugo Reumkens (Van Doorne)
Dit artikel is gepubliceerd in
GU2020sep

Nationaal Register

Jan van Nassaustraat 93
2596 BR Den Haag
T 070-324 30 91
info@nationaalregister.nl

Volg ons op social media

Governance Update nieuwsbrief